Som statsminister gikk han imot flertallet av afrikanderne som ønsket å fortsette og formalisere den apartheid-politikken som hersket i mellomkrigstiden. Han etablerte og støttet Fagankommisjonen etter andre verdenskrig som talte for avskaffelsen av all raseadskillelse i Sør-Afrika. Men Smuts tapte valget i 1948 før han kunne innføre forslaget og døde i 1950, akkurat i det apartheid var i ferd med å bli innført.