Cuando la Alemania Nazi invadió la Unión Soviética en 1941, Iósif Stalin escogió a Ustínov, que tenía 33 años y era director de la fábrica de armas "Bolchevique" de Leningrado, para supervisar la evacuación de la industria de defensa al este, hacia los Urales, lejos del alcance de la aviación alemana. Stalin lo galardonó por su trabajo, llamándolo "la cabeza roja", con la mayor condecoración civil soviética, la de Héroe del Trabajo Socialista. Ese mismo año fue nombrado Ministro de Armamentos.