11. října 1899 vpadli Britové do obou búrských republik a zahájili tím druhou búrskou válku. V počátečních fázích války sloužil jako důvěrník Paul Krugerovi. Řídil propagandu, logistiku, komunikaci s generály a diplomaty a všechno, co bylo potřeba. V druhé fázi války sloužil pod legendárním Koos de la Reyem, který velel komandu 500 mužů v západním Transvaalu. Smuts přímo exceloval v partyzánské válce metodou ´udeř a uteč´ a tím značně vyčerpával čtyřicetinásobně silnější britské jednotky. Prezident Kruger a celá delegace dlící v té době v Evropě se domnívali, že by nebylo od věci zaútočit na Kapsko. Původně chtěli vyslat generála De la Reye, ale pak si uvědomili, že ho nemohou postrádat v západním Transvaalu. Proto byl vyslán Smuts s malou jednotkou 300 jezdců s tím, že dalších 100 je mělo následovat. Díky britské politice spálené země ale bylo málo pastvy a koně byli příliš slabí, aby mohli pokračovat dál, proto je Smuts přenechal generálovi Kritzingerovi. Zpravodajská služba ale tvrdila, že v té době velel Smuts 3000 mužům.