Vào những năm Chiến tranh Vệ quốc Vĩ đại, Khrushchyov là Ủy viên Hội đồng quân sự phụ trách chính trị các phương diện quân Tây Nam, Đông Nam, Stalingrad, Nam, Voronezh và Ukraina 1. Hoàn toàn ủng hộ quan điểm của Stalin, ông đã là một trong số những người chịu trách nhiệm trong trận thua của Hồng quân bị bao vây ở Kiev (1941) và ở Kharkov (1942). Sau khi chiến tranh kết thúc, ông mang quân hàm trung tướng.