熙二年（265年），司马炎继位晋王，任命何曾为晋国丞相，加任侍中。
位列至公.不久何曾与裴秀和王沈等人劝司马炎进位皇帝。同年，司马炎受魏元帝曹奂禅让，后任命何曾为太尉，进爵朗陵县公，食邑一千八百户。泰始三年（267年）任命何曾为太保，仍任侍中。泰始九年（273年）又加领司徒。咸宁二年（276年）任太傅。咸宁四年（278年），因何曾多次以年老而请求退休，司马炎任命他为太宰，朝会可剑屐乘舆上殿，又赐钱帛。每次召见时都可以带平时的食物和衣饰随行，并带二子跟随。当年十二月丁未日（279年1