Ngày 29 tháng 5 năm 1945, Malinin được trao tặng danh hiệu Anh hùng Liên Xô (Huân chương số 6456). Ông là tham mưu trưởng Cụm binh đoàn Liên Xô tại Đức cho đến năm 1948, và sau đó là tham mưu trưởng quân đội Liên Xô. Từ năm 1950 đến năm 1952, ông giữ chức Phó Chánh Thanh tra rồi Chánh Thanh tra Quân đội. Sau đó, ông trở thành Phó Tổng tham mưu trưởng thứ nhất của Lực lượng vũ trang Liên Xô, một chức vụ mà ông giữ cho đến khi qua đời. Ông giữ vai trò tham gia vào việc đàn áp cuộc nổi dậy năm 1956 của Hungary. Ngày 3 tháng 8 năm 1953, ông được thăng quân hàm Đại tướng.