当时着名的隐士窦默一起谈论学问。1242年，许衡得程颐的《易传》、朱熹的《四书章句集注》、《小学》等书，从此以此传授门徒。1254年，忽必烈置宣抚司，以许衡为京兆教授。1258年还居河内。中统元年（1260），元世祖忽必烈即位，遂召许衡北上。次年，官国子祭酒，不久辞职还乡。中统三年，复入朝，但因病燕京，至元元年（1264）归乡。二年，忽必烈再召，许衡奉命即赴，四年，告病还，不久复召入。七年，官中书左丞。许衡劾阿合马专权，世祖不听，于是又请求解职。八年，官集贤大学士兼国子祭酒，置国子学。许衡致力教学，用小学、