少年时，他跟随亲人移居北平。1933年，他毕业于辅仁高中，旋即考入燕京大学医科。后来，他因视力不佳而无法在解剖学课程中使用显微镜绘制解剖图，并总是在该项作业上被授课教师给予「F」（Fail，意即不合格）的评等；隔年，在该教师建议其转系后，他直接寻求校长司徒雷登协助转校。在司徒雷登的协助下，他终得以报名北京大学中文系转学考。1934年9月后，他在录取后决定进入该系语言文字组就读，在十多位教师（胡适、沈兼士、钱玄同、罗常培、唐兰等）引导下与三至四位同学学习。1935年，他开始跟随沈兼士研究于文字学及训诂学等