Smuts is aanvanklik nie toegelaat om hom by die Boeremagte in Natal in die Tweede Vryheidsoorlog aan te sluit nie en toe sy regering ooswaarts na Middelburg uitwyk op 29 Mei 1900 (vyf dae ná sy dertigste verjaardag), is hy as hul verteenwoordiger in die hoofstad agtergelaat. Voor Pretoria voor die vyand geswig het, kon hy die staatsfondse wat nog in die bank was (sowat £500 000 in goud en munte) verwyder en na Middelburg versend. Hy sluit hom hierna aan by genl. Louis Botha en was teenwoordig tydens die Slag van Donkerhoek en tydens die samesprekings wat gelei het tot die tweede of guerrilla-fase van die oorlog. In Julie 1900 is genl. Koos de la Rey, met Smuts as assitent, volle militêre en burgerlike mag in die Wes-Transvaal gegee nadat die Republikeinse regering so te sê beheer oor dié streek verloor het. Tesame het De la Rey en Smuts vars kommando's op die been gebring, die vyandelike magte in 'n reeks veldslae in die Magaliesbergreeks aangedurf en die regeringsmagte uitgeoefen. Onder leiding van De la Rey het Smuts 'n bekwame generaal geword met sy vernaamste operasionele gebied die Gatsrand, suid van Johannesburg.