6年3月9日，李兆麟在哈尔滨遭到东北抗日联军的国民政府军事委员会调查统计局间谍杀害；他在同月24日葬于哈尔滨道里公园北侧，当时举行了公祭和安葬仪式，数十万人出席，公园为他建立了坟墓和墓塔。哈尔滨在1946年4月28日被中国共产党接收，道里公园此后为他建立墓碑，由福兴公司承建。当年8月15日，民众在道里公园纪念日本投降一周年，为李兆麟将军墓塔举行揭幕仪式，又新建墓碑，并把道里公园易名为兆麟公园。1963年6月18日，中华人民共和国国务院总理周恩来与朝鲜民族保卫相（现人民武装力量部部长）崔庸健向李兆麟将军墓