向小兴安岭西麓的海伦等地的长途西征，保存了有生力量，在新的游击区站住脚，爬冰卧雪又坚持了武装斗争5年多。1939年5月抗联第3、6、9军等部组建东北抗日联军第3路军，李兆麟任总指挥，率部开展松嫩平原游击战，攻克讷河、克山、肇源等县城。1940年底与周保中等组织整训部队，任东北抗联教导旅政治副旅长。1941年11月，率部进入苏联境内。任苏联远东方面军独立第88步兵旅政治副旅长。抗日战争胜利后，李兆麟和妻子金伯文从苏联回国，随苏联军队抢占东北战略要地哈尔滨。任滨江省副省长、哈尔滨市中苏友好协会会长等职。