Han meldte seg inn i kommunistpartiet i 1933, mens han studerte på universitetet. Da han begynte på universitetet var det rundt 3 millioner arbeidsledige i Storbritannia, og trusselen om fascisme lå i luften. Sammen med John Cornford, en ung poet og aktivist som senere døde i Spania, overtok Klugmann lederskapet i universitetets kommunistiske studentforening.