919年返回俄罗斯国内且加入红军，在内战时对白军于西伯利亚作战，内战结束后他便继续在军队里任职，于初级军官学校学习，并派任到步兵营少校营长；1926年，他加入苏联共产党，成为共产党员是在军队里晋升的必需条件。 1927年，他被派往军队精英摇篮的伏龙芝军事学院学习，1930年毕业；1931年被派到俄军第3骑兵团担任上校参谋长7年，他的上司团长铁木辛哥是史达林重用的将军。 1936年西班牙内战爆发，马利诺夫斯基以「志愿军」身份到西班牙为西班牙政府助战，对抗右翼反共的西班牙反政府叛将佛朗哥将军与义大利法西