Zu Beginn des Großen Vaterländischen Krieges befehligte Galanin beim Unternehmen München das 17. Schützen-Korps der 18. Armee. Ab August 1941 kommandierte er die 12. Armee der Südfront, anschließend ab November 1941 die 59. Armee der Wolchow-Front (u. a. Schlacht um Tichwin und Schlacht am Wolchow). Im Oktober 1942 übernahm er das Kommando über die 24. Armee der Donfront, die an der Schlacht von Stalingrad beteiligt war (u. a. Operation Uranus). Am 27. Januar 1943 wurde Galanin zum Generalleutnant befördert. Ab April 1943 kommandierte er die 70. Armee der Zentralfront, die an der Schlacht von Kursk und Orjoler Operation teilnahm. Galanin befehligte die 4. Gardearmee in der Belgorod-Charkower Operation. Ab Februar 1944 kommandierte er die 53. Armee der 2. Ukrainischen Front in der Kesselschlacht von Tscherkassy. Anschließend kommandierte Galanin bis November 1944 wieder die 4. Gardearmee u. a. in der Operation Jassy-Kischinew und in der Apatin-Kaposvarer Operation. Er war der Erste, der mit dem Kutusoworden ausgezeichnet wurde.