勤考入汇文中学。1948年初中毕业后，以第一名的成绩考取国立北平高级工业学校电机系，因入学体检时被误诊为肺结核及个人兴趣等原因，最终并未到该校就读，回到汇文中学继续读高中，期间开始学习古文字。1951年，李学勤考入清华大学哲学系。1952年，中国高等院校院系调整，清华大学哲学系被划入北京大学，但李学勤并未到北大报到。院系调整过程中，原清华大学中文系教授陈梦家被调入中国科学院考古研究所，经陈梦家引介，李学勤调到考古研究所与曾毅公一起负责对郭若愚《殷墟文字缀合》原稿进行校对、补充工作，至1953年底该项工作