他终得以报名北京大学中文系转学考。1934年9月后，他在录取后决定进入该系语言文字组就读，在十多位教师（胡适、沈兼士、钱玄同、罗常培、唐兰等）引导下与三至四位同学学习。1935年，他开始跟随沈兼士研究于文字学及训诂学等领域；当时，沈兼士兼职于北平故宫博物院文献馆，他因而得以随其接触许多文献珍本。1937年7月，在毕业于北京大学后，他与张敏言一同前往苏州，参加基督教青年会战时救护工作。不久，他又前往南昌，加入当地的军政部伤兵管理处，协助医护伤患。随后，他与张敏言结婚，并在婚后一同整理家中书画碑帖。