建于1926年，首任系主任为中国着名教育家、物理学家、中国近代物理学奠基人之一的叶企孙。成立时仅有梅贻琦、叶企孙两位教授，本科生两个年级共7人。至抗战爆发前，先后有吴有训（1928年）、萨本栋（1928年）、周培源（1929年）、余瑞璜（1930年）、赵忠尧（1932年留学结束回到清华）、任之恭（1934年）、霍秉权（1935年）、孟昭英(1937年)等教授。1934年，叶企孙推荐吴有训接任系主任。从1929到1938年，清华物理系共毕业本科生71人，其中多人成为大师级人物，如核物理学家王淦昌、钱三强，