部队为基础，追加第1国境守备队、第2国境守备队、第11国境守备队部分队伍编成，4月10日在牡丹江省完成整编之后被编入第3军。此后，纳入独立混成第132旅的指挥下，第128师团主力驻扎在罗子沟附近，迎来苏军的八月风暴行动。1945年8月13日至14日，苏军对罗子沟阵地进行勐烈攻击。第128师团支持不下撤退至罗子沟西方的桦皮旬子阵地，并在当地停战接受投降。