Retirat de l'exèrcit a l'abril de 1914, fou novament cridat a l'agost després de l'esclat de la Primera Guerra Mundial. El 26 d'agost de 1914, Gallieni fou nomenat governador militar de París per col·laborar en la defensa de la capital abans de la batalla del Marne. Mentre que els alemanys s'apropaven i el Govern fugia cap a Bordeus en plena catàstrofe, Gallieni va posar la ciutat en estat de defensa, tranquil·litzant als parisencs amb una proclama i va contribuir a la victòria del Marne, al setembre de 1914 gràcies, especialment, a les tropes que va enviar com a reforç a l'exèrcit del general Maunoury que es trobava l'el riu Ourcq, després de requisar fins i tot els taxis de la capital, a causa de l'escassetat de transports.