Durante la Primera Guerra Mundial, Smuts formó la Fuerza de Defensa sudafricana. Su primera tarea fue suprimir la Rebelión Maritz, que fue llevada a cabo hacia noviembre de 1914. Después él y Louis Botha condujeron el ejército sudafricano en el África del Sudoeste Alemana y triunfaron (ver la Campaña de África del Sudoeste para más detalles). En 1916 el General Smuts fue puesto a cargo la conquista del África Oriental Alemana. Esta vez la campaña no fue bien, pues las tropas alemanas del general Paul von Lettow-Vorbeck nunca fueron destruidas a pesar de un gran inferioridad numérica y material. Con todo, a principios de 1917 Smuts fue invitado a unirse al Gabinete de Guerra Imperial por David Lloyd George, entonces dejó el área y fue a Londres. En 1918, Smuts ayudó a crear una Real Fuerza Aérea británica, independiente del ejército.