秦以前，五帝时称成均，虞舜时称上庠，周代称辟雍，汉以后称太学。隋朝初期，设立国子寺，不久改称国子监，并同时赋予主管全国教育行政职能。而在以前，太常兼有管理全国教育事务职能。隋、唐等朝国子监内往往又设太学、国子学等。
招收留学生.洪武二十三年（1390年）日本遣子弟入监，增建国子监号舍。洪武二十五年（1392年）秋，琉球中山王遣其子日孜每及陪臣之子等至京，入国子监读书，“琉球于诸夷为最笃，国家待之亦为最优。”国子监进入清朝时代后，亦招收朝鲜、俄罗斯、琉球、日本等国派遣人员来华