日俄战争战胜国大日本帝国决定为阵亡的俄罗斯军人建立纪念碑，名为「旅顺阵殁露兵将卒之碑」；纪念碑在6月10日完工，安放在陵园内。1933年，领导抗日武装东北人民革命军的中国共产党党员金伯阳战死，其衣冠冢设于此陵园深处。在抗日战争期间的1945年，苏联红军发动苏日战争，于中国东北地区与日本关东军交战，超过32,000名苏军官兵在是次战事中阵亡；而在随后苏联驻军旅顺的十年间，有些苏军官兵和军眷去世，需要安葬。由于原有陵园的面积太小、要安葬的烈士太多，苏军进驻旅顺后在1945年8月扩建陵园，设置1,323座