Durant la Segona Guerra Mundial Marshall reordenà l'estructura de l'exèrcit de terra i de l'aire, dotant-lo d'una visió més moderna, i preparant-lo per entrar en combat. Va dissenyar l'estratègia central de totes les operacions aliades a Europa, va seleccionar Dwight Eisenhower com el comandant suprem de l'exèrcit aliat a Europa, i va dissenyar l'Operació Overlord, que va servir per a la invasió de Normandia. Winston Churchill l'anomenà "l'organitzador de la victòria aliada", sent nomenat el 1944 "home de l'any" per la "Revista Time". Marshall, després de la victòria dels aliats, es retirà de l'exèrcit el 1945.