Una vez iniciada la invasión alemana a la Unión Soviética en junio de 1941, Voroshílov fue designado jefe del Ejército del Norte, donde pese a su valor personal —en un momento dirigió personalmente un contraataque contra los tanques alemanes armado solo de una pistola— no pudo evitar que Leningrado fuera cercada. Solo por ser amigo de Stalin, se salvó del destino común de la mayoría de los comandantes derrotados, que era la degradación, el destierro o la condena a muerte. Fue destinado a la Stavka soviética, sin asumir nuevamente mando de tropas en el frente: Entre 1945 y 1947 se le encomendó supervisar el establecimiento del Gobierno socialista en Hungría.