949年12月，任中国人民外交学会会长。1949年，参与中国人民政治协商会议预备会，当选为新政协筹备委员会常委会会员。他是“中华人民共和国”国名提议者之一，他认为“人民共和国”已经说明国体，表达了人民民主；他也坚持以法国国歌《马赛曲》为例，认为《义勇军进行曲》歌词具有特定时代意义，应当保留原歌词以警示人们“居安思危”。1952年11月至1958年2月，出任中央人民政府教育部部长、中华人民共和国教育部部长。1957年5月1日，他对毛泽东提出了评价：“好大喜功，急功近利，否定过去，迷信将来”。195