El 1939 esclatà la Guerra Soviètico-Finesa, i Góvorov va ser nomenat Cap d'Artilleria del 7è Exèrcit. Des d'aquesta posició comandà l'assalt massiu d'artilleria que permeté el trencament soviètic de la Línia Mannerheim el 1940. Per aquesta acció va rebre l'Orde de l'Estrella Roja i el rang de Comandant de Divisió. Seguidament va ser nomenat Diputat Inspector General d'Artilleria de l'Exèrcit Roig. Quan l'Alemanya Nazi envaí la Unió Soviètica al juny de 1941, Góvorov va ser nomenat Director d'Artilleria del Front Occidental, a la Polònia Oriental i a Bielorússia. En aquest comandament cridà l'atenció del General Gueorgui Júkov, qui va acabar sent el seu patró. Executà un paper principal a la Batalla de Moscou al desembre de 1941 i a les contraofensives soviètiques durant l'hivern de 1941-1942. Com a resultat va ser promogut al rang de Tinent General d'Artilleria.