1941 januárjában a Távol-Keletről a Leningrádi Katonai Körzet élére került, amely június 22-én, a német invázió után az Északi Fronttá alakult át. Augusztus 27-én a Leningrádi Front parancsnoka lett, amelyet a főhadiszállás parancsára alakítottak ki az Északi Frontból. Szeptemberben Vorosilov került a helyére. A következő több mint egy évben különböző hadseregek élén állt, illetve a Sztálingrádi Front és a Voronyezsi Front parancsnokhelyettese volt. 1943 januárjában páncélos-frontgyorscsoportja (négy páncéloshadtest) részt vett a Harkov irányába indított offenzívában. Február végére súlyos veszteségeket szenvedett, utánpótlást pedig nem kapott, így Manstein ekkor lesújtó ellencsapása visszavetette a gyorscsoportot és Vatutyin Délnyugati Frontját. 1943. június 6-án kinevezték a Brjanszki Front parancsnokává. Ebben a beosztásban vett részt a kurszki csatában. Szeptember 17-én csapatai felszabadították Brjanszkot. Októberben Sztálin hadseregtábornokká léptette elő, majd a Balti Front élére irányította át (amelyet nemsokára átneveztek 2. Balti Fronttá). 1944 áprilisában azonban, miután a Riga elleni támadás kudarcba fulladt, lefokozták vezérezredessé, és Jerjomenko került a helyére. (A lefokozás nagy megszégyenítésnek számított a Vörös Hadseregben, és a híresebb magasabbparancsnokok közül Popovon kívül csak Petrov jutott erre a sorsra, a hírhedt Mehliszt és Kulikot leszámítva.) A háború hátralévő részében Govorov törzsfőnöke volt a Leningrádi, majd a 2. Balti Frontnál.