爆发后，管理当地日侨的关东军急着向后方大量后撤军人和军属，未有对日侨做出任何保护。缺少军队保护的日侨们，被迫紧急撤退，向大连及丹东等地集结，以期乘船回国，从而出现了百万逃难大军。据调查，日本遗侨中的绝大多数是开拓团在撤退时遗留下来的，特别是分散于吉林、黑龙江的开拓团民们（其中多为妇孺老弱）。
1945年起的日本侨俘遣返.苏军进占中国东北地区后，对关东军外的日本籍移民没有遣返措施。当时在中华民国政府、中国共产党、苏军分别控制的东北地区，共计有130余万日本人。1946年起，在中华民国