Under andre verdenskrig var Sjvernik ansvarlig for å flytte sovjetiske industri øst for Uralfjellene, i tilfelle et angrep fra den tyske Wehrmacht. I 1946 ble han formann i Det øverste sovjets presidium. Han ble medlem av Politbyrået i 1952, men ble degradert i 1953.