命胡俨为祭酒兼侍讲，掌翰林院事，辅皇太孙朱瞻基留守北京。永乐十九年，改北京国子监祭酒。俨馆阁宿儒，朝廷大着作多出其手，重修《明太祖实录》、《永乐大典》、《天下图志》，并皆担任总裁官。居国学二十余年，以身率教，动有师法。洪熙改元，以疾病奏请告老还乡，明仁宗赐敕奖劳，进太子宾客，仍兼祭酒。明宣宗即位后，以礼部侍郎召，胡俨辞归。家居二十年，方岳重臣咸待以师礼。胡俨与他们交往，从不言及私利。淡泊名利，生活简朴刚够温饱。正统八年八月卒，年八十三。