1919年，郑彦棻考入国立广东高等师范学校数理化部。在该校内推广《新青年》、《新教育》、《新思潮》、《浙江潮》等刊物。在校期间，因受教育学教授黄希声影响，由原本主修数学、辅修化学转而对教育学感兴趣。因在校学习勤奋，品学兼优，获校长邹鲁赏识。1923年，经邹鲁、谢清介绍，郑彦棻加入中国国民党。同年，郑彦棻作为国立广东高等师范学校学生会评议部部长，参加了广东全省学生联合会评议部的工作，并被推选为全国学生联合会广东省代表，出席了该会在广州召开的评议大会。1924年1月，孙中山开始在国立广东高等师范学校礼堂讲授