Ettersom utviklingen i krigen flyttet kamphandlingene over på tidligere tysk-okkuperte områder, ble det behov for en annen type virksomhet, da Den røde armé ble mer utsatt for partisanvirksomhet og sabotasje. Den 15. april 1943 ble derfor SMERSJ opprettet med de ovenfornevnte oppgaver. Leder var Viktor Semjonovitsj Abakumov som rapporterte direkte til Lavrentij Berija. Dette viser at virksomheten ble ansett som en del av statens sikkerhet og ikke en del av Den røde armés militære virksomhet.