世界大战后期，苏联红军出兵中国东北，进驻大日本帝国佔据下的哈尔滨，成功取得对哈尔滨的控制；为了纪念在此期间阵亡的苏军将士和官兵，苏军指挥部决定在哈尔滨修建苏军烈士墓地。墓地由苏联红军驻哈尔滨司令部和哈尔滨市政府共同修建，在1945年8月20日建成，建于南岗区文化公园一组方形的围墙内。1995年，哈尔滨苏军烈士墓列入哈尔滨市文物保护单位。烈士墓后来成为哈尔滨游乐园的一部分，但游乐园的环境终日喧闹，不适合作为安葬烈士的场地；中华人民共和国外交部和俄罗斯外交部为此在2007年举行协商，决定把墓地迁移至皇山公墓