По време на войната Маршал участва в работата на политическия комитет за контрол над създаването на атомната бомба. През 1945 г. той препоръчва на президента Хари С. Труман да употреби оръжието срещу японските градове Хирошима и Нагасаки. След капитулацията на Япония той подава оставка от поста началник-щаб.