驻哈尔滨司令部和哈尔滨市政府共同修建，在1945年8月20日建成，建于南岗区文化公园一组方形的围墙内。1995年，哈尔滨苏军烈士墓列入哈尔滨市文物保护单位。烈士墓后来成为哈尔滨游乐园的一部分，但游乐园的环境终日喧闹，不适合作为安葬烈士的场地；中华人民共和国外交部和俄罗斯外交部为此在2007年举行协商，决定把墓地迁移至皇山公墓内。在墓地迁移工作中，新墓区的修建按照修旧如旧的原则进行，确保墓地布局和墓碑朝向与旧址一致。负责迁移工作的人员重新订制棺木，又更换磨损的墓碑；他们在进行重新安葬前沐浴更衣，并举行庄重