Trong Chiến tranh Thế giới thứ hai, các đơn vị Quân đội Nội vụ NVKD được sử dụng để đảm bảo an ninh khu vực hậu phương, bao gồm cả việc ngăn chặn sự rút lui của các sư đoàn quân đội Liên Xô. Mặc dù chủ yếu nhằm mục đích an ninh nội địa, các sư đoàn NKVD đôi khi được sử dụng ở mặt trận để ngăn chặn việc đào ngũ thông qua Nghị quyết số 270 và Nghị quyết số 227 của Stalin ban hành năm 1941 và 1942, nhằm nâng cao tinh thần quân đội thông qua sự tàn bạo và ép buộc. Vào đầu cuộc chiến, NKVD đã thành lập 15 sư đoàn bộ binh, đến năm 1945 đã mở rộng thành 53 sư đoàn và 28 lữ đoàn. Mặc dù chủ yếu dành cho mục đích an ninh nội bộ, các sư đoàn NKVD đôi khi được sử dụng ở tiền tuyến, ví dụ như trong Trận Stalingrad và Cuộc tấn công Krym năm 1944. Không giống như Waffen-SS, NKVD không trang bị bất kỳ đơn vị thiết giáp hoặc cơ giới hóa nào.