Smuts etablerte sin juridiske praksis i den blomstrende gruvebyen Johannesburg. Etter de nedslående opplevelsene i de siste 22 månedene i Kapp, oppdaget han til sin overraskelse at han var i stand til å få et anstendig levebrød av jussen sin. Han fortsatte å supplere lønnen sin med litt juridisk rådgivning og journalistikk. Etter bare tre måneder i Johannesburg, følte han seg finansielt trygg nok til å tenke på ekteskap. Han dukket opp ved huset til Isie Krige på et besøk i Kapp i april 1897 og fridde. Paret giftet seg få dager senere, og det var Smuts' velgjører fra dagene i Cambridge, professor JI Marais, som stod for vielsen. Smuts dro tilbake til Johannesburg med sin nye kone. Smuts' liv roet seg i en lykkelig rutine, paret fikk tvillinger i mars 1898, men de døde noen uker senere.