Durant la Primera Guerra Mundial, Smuts va formar la Força de Defensa sud-africana. La seva primera tasca va ser suprimir la Rebel·lió Maritz, que va ser duta a terme cap a novembre de 1914. Després ell i Louis Botha van conduir l'exèrcit sud-africà a l'Àfrica Sud-occidental Alemanya i van triomfar (vegeu la Campanya de l'Àfrica del Sud-oest per a més detalls). El 1916 el General Smuts va ser posat al front de la conquesta de l'Àfrica Oriental Alemanya. Malgrat que la Campanya de l'Àfrica de l'Est va anar bastant bé les forces alemanyes no van ser destruïdes. Amb tot, a començaments de 1917 Smuts va ser convidat a unir-se al Gabinet de Guerra Imperial per David Lloyd George, llavors va deixar l'àrea i va anar a Londres. El 1918, Smuts va ajudar a crear una "Royal Air Force", independent de l'exèrcit.