In de Sovjet-Russische verdediging van Tsaritsyn (nadien Stalingrad, nu Volgograd) tijdens de Russische Burgeroorlog werd hij erg vertrouwd met Stalin. Hij stond Stalin bij op militair gebied, ook al had hij zelf nauwelijks militaire training gekregen. Zijn collega's roemden zijn inzet en moed, maar vonden zijn militaire leiderschapskwaliteiten veruit onvoldoende en hij wantrouwde het advies van ervaren militairen. Desondanks werd hij door Stalin onmisbaar verklaard tijdens de burgeroorlog en de Russisch-Poolse oorlog. Vorosjilov werd gekozen in het Centraal Comité in 1921 en bleef lid tot 1961. In 1925, na de dood van Michail Froenze, werd hij aangewezen als volkscommissaris voor Militaire en Marinezaken en hoofd van de Militaire Revolutionaire Raad van de Sovjet-Unie een post die behouden werd tot 1934. In hetzelfde jaar werd hij aangewezen als persoonlijke commissaris voor Verdediging en als maarschalk van de Sovjet-Unie in 1935.