Han sluttet seg til den lokale militsen og begynte å skrive for collegemagasinet, for første gang begynte han å vurdere de betydelige politiske sakene som konfronterte Sør-Afrika. Han ble leder for collegets debattsamfunn. I denne rollen ble han bedt om å tale i velkomsten til Cecil Rhodes da han besøkte colleget i 1868. Rhodes var i ferd med å bli statsminister i Kappkolonien og var en ivrig forkjemper for et utstrakt sørafrikansk union og utvidelse av britenes herredømme i Afrika. Det var passende at Smuts som hadde begynnende tanker i samme retning, skulle ønske ham velkommen med temaet panafrikanisme.