小成长于台南。1919年，他进入长老教中学校就读；毕业前，新楼医院院长马雅各医师（Dr. James Maxwell）之弟马约翰医生（Dr. Preston Maxwell）在台南访问时建议他前往北平协和医学院习医。随后，颜春辉于毕业该年3月前往厦门就读中学，并于数月后考取福建协和大学，后于9月入学；一年后，他再转往北京考进北平协和医学院。当时，协和医学院採取北美医学教育系统，学生必须完成医预科后方可进入协和医学院就读正科；因此，颜春辉先在燕京大学完成理学院课程，后于1928年取得燕京大学与纽约州大学理