Al iniciarse la ofensiva Fall Blau de la Wehrmacht contra el Cáucaso a mediados de 1942, Budionni fue retirado de la región amenazada. A cambio, fue designado por Stalin como jefe máximo de la entonces ya obsoleta "Caballería Roja" y enviado en la práctica a puestos de retaguardia desde 1943 hasta el final de la guerra, por lo cual nunca participó en las grandes campañas triunfales del Ejército Rojo contra Alemania. A pesar de ser responsable (aunque acatando órdenes de Stalin) de algunas de las derrotas más catastróficas de la URSS durante la Gran Guerra Patria, continuó siendo uno de los militares favoritos de Stalin y no sufrió ninguna represalia.