Kliment_Voroshilov
Pra Perang Dunia II
Voroshilov kemudian diangkat menjadi Komisar Rakyat untuk Pertahanan pada tahun 1934 dan pangkatnya dinaikkan menjadi Marsekal Uni Soviet pada tahun 1935. Voroshilov memainkan peran penting dalam pelaksanaan Pembersihan Besar-Besaran yang memakan korban banyak dari para koleganya di militer dan diperintahkan untuk terlibat dalam Pembersihan tersebut atas perintah Stalin. Voroshilov menulis pesan kepada para perwira militer dan diplomat Soviet yang mengasingkan diri seperti Mikhail Ostrovsky dan meminta mereka dengan sukarela untuk kembali ke Uni Soviet dengan janji palsu bahwa mereka bahwa mereka tidak akan menghadapi penuntutan dari pihak berwenang. Voroshilov secara pribadi menandatangani 185 daftar eksekusi, menjadi orang keempat yang paling banyak menandatangani perintah eksekusi selama masa Pembersihan Besar-Besaran ini setelah Molotov, Stalin dan Lazar Kaganovich. Voroshilov juga berbagai ketakutan terhadap elemen kelas atas korps perwira dengan para rekan sejawatnya. Voroshilov juga secara terbuka mendeklarasikan adanya sabotase di dalam Tentara Merah dan berupaya menyelamatkan hidup banyak perwira yang kelak akan berjasa dalam Perang Dunia II, meskipun ia juga tidak menyesal karena telah mengekskusi Marsekal Mikhail Tukhachevsky karena mereka berdua saling membenci. Meskipun Voroshilov banyak mengambil bagian dalam membersihkan para "mekanik" (pendukung penggunaan tank dibanding kavaleri) dari Tentara Merah, Voroshilov menjadi yakin bahwa ketergantungan pada kavaleri harus dikurangi sementara penggunaan senjata yang lebih modern harus mendapat prioritas lebih tinggi. Marsekal Semyon Budyonny mencoba mendekati Voroshilov dengan harapan agar ia dapat melindungi status dari unit kavaleri Tentara Merah namun Voroshilov secara terbuka menyampaikan niatnya berlawan dengan hal itu. Voroshilov juga kemampuan peperangan senjata gabungan serta kualitas dan kemampuan tinggi untuk mengambil inisiatif para perwira selama manuver musim panas 1936. Bagaimanapun ia juga menekankan isu dan permasalahan yang ada di dalam Tentara Merah dalam laporan penuhnya. Diantara permasalahan-permasalahan yang menjadi penekanan dari Voroshilov antara lain kurangnya komunikasi, staf yang tidak kompeten, kurangnya kerjasama sesama tentara dan belum berkembangnya struktur komando dalam unit tank dan unit persenjataan modern lainnya. Ketika berakhirnya Pembersihan Besar-Besaran, beberapa reformasi dilaksanakan oleh Komando Tinggi untuk menrekonsiliasi doktrin Tentara Merah dengan keadaan Tentara Merah yang sebenarnya. Para Komandan yang diangkat secara politik setelah pembersihan melihat tentara yang ada tidak cocok untuk melaksanakan perang gaya operasi dalam. Para komandan seperti Voroshilov dan Kulik adalah dua dari sekian orang yang menghasut pemberlakuan reformasi ini yang berdampak positif pada Tentara Merah. Tapi Voroshilov dan Kulik tidak berhasil menempatkan reformasi-reformasi ini dalam pelaksanannya. Salah satu dari agenda reformasi tentara Merah adalah reogranisasi unit Tentara Merah yang secara tidak sengaja memindahkan organisasi Tentara Merah menjadi ke keadaan yang jauh lebih maju daripada pada tahun 1936. Reorganisasinya digagas oleh Kulik tetapi dipraktikkan oleh Voroshilov.