他随学院迁往各地，期间学院独立并更名为广东省立文理学院，他继续担任院长。1941年离任后，与许崇清等人一同编辑《教育新时代》、《新建设》等刊物。1942年赴桂林，任国立桂林师范学院教务长，时任院长曾作忠为其学生。1946年加入中国民主同盟。1947年赴厦门大学任教。中华人民共和国成立后，出任中央人民政府教育部中等教育司司长。1950年任北京师范大学校长。1952年院系调整后，转任教育部副部长。1977年1月20日，林砺儒在北京逝世。