Efter den tyske invasion af Sovjetunionen i juni 1941 var Vorosjilov kommandør over den kortlivede nordvestlige direktion, som styrede adskillige sovjetiske fronter. Han udviste betydeligt personligt mod og ledede personligt et modangreb mod tyske kampvogne med en pistol i hånden. Men han udviste også alvorlig inkompetence og evnede ikke at forhindre at tyskerne omringede Leningrad og blev erstattet med den langt dygtigere Georgij Zjukov. I 1945-1947 førte han tilsyn med etableringen af det kommunistiske styre i Ungarn.