Lorsque l'Allemagne attaqua l'URSS en juin 1941, Khrouchtchev était toujours en poste à Kiev. Staline le nomma commissaire politique et il servit sur plusieurs fronts en tant qu'intermédiaire entre les commandants militaires locaux et les dirigeants politiques à Moscou. Staline utilisa Khrouchtchev pour garder les commandants sous surveillance tandis que les commandants cherchaient à influencer Staline par son intermédiaire. Avec l'avancée allemande, Khrouchtchev travailla avec les militaires pour défendre et sauver la ville. Entravée par les ordres de Staline interdisant l'abandon de la ville, l'Armée rouge fut rapidement encerclée. Les Allemands avancèrent après avoir fait mais selon les Soviétiques, sur parvinrent à s'échapper. Les sources primaires divergent sur la responsabilité de Khrouchtchev concernant ce dénouement. Selon le maréchal Gueorgui Joukov, qui écrivit quelques années après que Khrouchtchev l'eut écarté et disgracié en 1957, Khrouchtchev persuada Staline de ne pas évacuer les troupes de Kiev. Néanmoins, Khrouchtchev nota dans ses mémoires que lui et le maréchal Semion Boudienny proposèrent de redéployer les forces soviétiques pour éviter un encerclement jusqu'à ce que le maréchal Semion Timochenko arrive de Moscou avec l'ordre de tenir les positions. L'un des premiers biographes de Khrouchtchev, Mark Frankland, suggéra que sa foi en Staline vacilla à la suite des revers de l'Armée rouge. Khrouchtchev écrivit dans ses mémoires :