Le , il nommé lieutenant-général et est nommé commandant des troupes du district militaire de Kharkov. Au début de la Seconde Guerre mondiale il commande la 18e armée (Union soviétique) sur le front sud et son armée y mène de lourdes batailles défensives. Durant la Bataille de Rostov (1941), la armée est entourée par la 1. Panzerarmee. Dans une tentative pour sortir de l'encerclement, le lieutenant-général Smirnov meurt durant la bataille, le près de Popovka dans l'Oblast de Zaporijia.