Gallwitz wurde zu Kriegsbeginn am 2. August 1914 zum Kommandierenden General des Garde-Reserve-Korps ernannt und nahm an der Westfront auf dem linken Flügel der 2. Armee unter Generaloberst Karl von Bülow in zweiter Linie an der Invasion des neutralen Belgiens teil. Als Artilleriespezialist erhielt Gallwitz den Auftrag, die starke Festung Namur am Maasübergang zu erobern. Dank des von Gallwitz forcierten, sehr konzentrierten und konsequenten Einsatzes schwerer Artillerie gelang die Einnahme der Festungswerke binnen weniger Tage, wesentlich schneller als aufgrund der Erfahrung bei der Belagerung von Lüttich zunächst befürchtet. Das Korps wurde daraufhin nach Ostpreußen verlegt und beteiligte sich an der Schlacht an den Masurischen Seen auf dem linken Flügel der 8. Armee unter Paul von Hindenburg. Im Oktober 1914 stieß sein Korps während der Schlacht an der Weichsel mit der neu gebildeten 9. Armee bis Iwangorod vor, musste sich aber bis Monatsende vor der russischen Übermacht nach Westen zurückziehen. Im Februar 1915 übernahm er das Kommando der mit einigen Ergänzungen gebildeten „Armeegruppe Gallwitz“, die später in 12. Armee umbenannt wurde. Vom 20. bis 24. Februar drängte Gallwitz die russische Armee unter General Pawel Plehwe in der Ersten Schlacht um Przasnysz zurück, musste dann aber im März in seine Ausgangsstellung zurückweichen. In der Zweiten Schlacht bei Przasnysz während des Sommerfeldzuges erreichte er zwischen dem 13. und 15. Juli 1915 den allgemeinen Durchbruch am Narew.