1935 blev Budjonnyj en av de första fem marskalkarna av Sovjetunionen. I rysk-finska kriget förde han befäl över en armé, dock med förödande resultat. Vid krigsutbrottet mellan Tyskland och Sovjetunionen utsågs han till befälhavare på södra fronten och perioden juli-september 1941 stod han emot den tyska invasionen av Ukraina (vilken var en del av Operation Barbarossa), men blev slutligen inringad. Han avskedades av Stalin i september. Han stod dock fortfarande på god fot med Stalin, och blev pensionerad som "Hjälte av Sovjetunionen".