在当地。等各种理由的因素，有部分的日本军人不选择回日本而在当地生活。根据大坂经济法科大学的教授林英一统计，在各地的残留日本兵的总数约有1万人。
中国.在中国，残留日本兵或是非军人的驻中日本人大多加入国民革命军或是中国人民解放军，约5600位残留日本军曾经在国共内战参战。在山西省曾经有2600位军人或非军人的日本人加入国民革命军，在日本投降后四年仍持续作战（山西残留日本军队）。除此之外，在八路军佔领的地区，则是由旧日本陆军的飞行队长与队员300名等为基础，创办东北民主联军航