Smuts dannet South African Defence Force under krigen. Hans første oppgave var å slå ned Maritzopprøret, noe som var utført i november 1914. Etter dette ledet han og Botha den sørafrikanske hæren inn i Tysk Sørvest–Afrika og erobret kolonien. General Smuts fikk i 1916 ansvaret for erobringen av Tysk Øst-Afrika. Mens felttoget i Øst-Afrika gikk nokså godt, ble ikke de tyske styrkene knust. Men tidlig i 1917 ble han invitert til å slutte seg til Imperiets krigskabinett av David Lloyd George, derfor forlot han området og reiste til London. Smuts hjalp i 1918 til med å opprette Royal Air Force som var uavhengig av hæren.