Pada Perang Dunia II Pasukan Internal NKVD turut bertempur bersama Tentara Merah melawan Nazi Jerman, terutama pada fase bertahan (1941-1943). Pasukan Internal terlibat mempertahankan Moskow, Leningrad, Benteng Brest (Belarus), Kiev, Odessa, Voronezh, dan Stalingrad, serta sangat berperan dalam Pertempuran Kursk. Banyak unit pasukan ini tetap berada di belakang untuk menjaga ketertiban pada masa perang, memerangi agen-agen musuh, dan menjaga instalasi-instalasi penting seperti pabrik senjata dan amunisi, pabrik tank, dan sebagainya. Selama perang, lebih dari 53 divisi dan 20 brigade Pasukan Internal berpartisipasi dalam usaha perang. Tercatat 977.000 anggota tewas, lebih dari 100.000 prajurit dan perwira mendapat penghargaan dan medali keberanian selama perang, dan 295 di antaranya dianugerahi penghargaan tertinggi Uni Soviet, .