Командував загонами під час Другої англо-бурської війни в Трансваалі. Під час Першої світової війни він керував армією Південної Африки проти Німеччини, захопивши Німецьку Південно-Західну Африку. Також Смутс був командувачем британської армії у Східній Африці. З 1917 по 1919 р., він також був одним з п'яти членів британського військового кабінету, допомагаючи створювати військово-повітряні сил. Він став фельдмаршалом в британській армії в 1941 році і служив в Імперському військовому кабінеті під керівництвом Вінстона Черчилля. Він був єдиною людиною, яка брала участь у підписанні мирних договорів, що закінчували і Першу і Другу світову війну.