委员会调查统计局间谍杀害；他在同月24日葬于哈尔滨道里公园北侧，当时举行了公祭和安葬仪式，数十万人出席，公园为他建立了坟墓和墓塔。哈尔滨在1946年4月28日被中国共产党接收，道里公园此后为他建立墓碑，由福兴公司承建。当年8月15日，民众在道里公园纪念日本投降一周年，为李兆麟将军墓塔举行揭幕仪式，又新建墓碑，并把道里公园易名为兆麟公园。1963年6月18日，中华人民共和国国务院总理周恩来与朝鲜民族保卫相（现人民武装力量部部长）崔庸健向李兆麟将军墓献上花圈。1993年，哈尔滨市民政部门拨款为李兆麟将军