Nadat de Duitsers in juni 1941 de Sovjet-Unie aan hadden gevallen, werd Boedjonny benoemd tot commandant van het Zuidwestelijk Front. Zijn troepen werden echter omsingeld bij Kiev en 600.000 Sovjets werden krijgsgevangengenomen. Toch kreeg Boedjonny weer een nieuwe post van Stalin. In september 1941 werd hij benoemd tot bevelhebber van het Reservefront en was zo betrokken bij de verdediging van Moskou. Wederom moesten zijn troepen het onderspit delven. In oktober werd hij alweer uit zijn functie ontheven. Hij werd naar het Noord-Kaukasische Militaire District gestuurd om daar een ondersteunende rol te vervullen, zonder zelf echt invloed uit te kunnen oefenen. In mei 1942 kreeg hij het bevel over het Noord-Kaukasische Front, hij zou dit tot augustus houden. Hierna werd Boedjonny niet meer actief ingezet in de oorlog. Hij ging zich bezighouden met het opleiden van jonge soldaten die in het Rode Leger dienst namen.