Ο Βοροσίλοφ εντάχθηκε στη μπολσεβίκικη φραξία του Ρωσικού Σοσιαλδημοκρατικού Εργατικού Κόμματος το 1905. Μετά τη Ρωσική Επανάσταση του 1917, ο Βοροσίλοφ έγινε μέλος του Ουκρανικού Συμβουλίου Λαϊκών Επιτροπών και Επίτροπος Εσωτερικών Υποθέσεων μαζί με τον Βασίλι Αβέριν. Ήταν πολύ γνωστός για την βοήθεια στον Ιωσήφ Στάλιν στο Επαναστατικό Στρατιωτικό Συμβούλιο (με επικεφαλής τον Λέον Τρότσκι), έχοντας συνδεθεί στενά με τον Στάλιν κατά την υπεράσπιση του Τσαριτσίν του 1918 από τον Κόκκινο Στρατό. Ο Βοροσίλοφ ήταν διοικητής του Νότιου Μετώπου κατά τη διάρκεια του ρωσικού εμφυλίου πολέμου και του πολωνο-σοβιετικού πολέμου, με την 1η στρατιά ιππικού. Ως πολιτικός κομισάριος που υπηρετούσε ισότιμα ​​με τον Στάλιν, ο Βοροσίλοφ ήταν υπεύθυνος για το ηθικό της 1ης στρατιάς ιππικού, η οποία απαρτιζόταν κυρίως από αγρότες από τη νότια Ρωσία. Ο Βοροσίλοφ ήταν επικεφαλής της Αστυνομίας της Πετρούπολης κατά τα έτη 1917 και 1918.