次以年老而请求退休，司马炎任命他为太宰，朝会可剑屐乘舆上殿，又赐钱帛。每次召见时都可以带平时的食物和衣饰随行，并带二子跟随。当年十二月丁未日（279年1月12日）何曾逝世，享年八十岁；司马炎在朝堂以素服举哀，又赐钱帛、棺材和陪葬衣饰。后来议论谥号时，博士秦秀根据谥法中“名与实爽曰缪，怙乱肆行曰丑”，建议何曾谥为缪丑公，司马炎不听从，自行赐何曾谥孝公。太康末年，儿子何劭又自己上表请改谥为元。