病辞职，又进封郑国公，宋孝宗淳熙十四年（1187年）病逝家中。死后追赠少师，谥号文靖。
轶事.梁克家是泉州历史上的第五个状元。泉州城内梁克家古宅所在街巷因为他两度当上丞相，被改名为相公巷。泉州还流传着关于梁克家墓的传说，言其墓地风水为五虎朝金狮，能出天子，并传梁克家死后令家人每日给墓地对面形似老虎的五座山喂肉，百日后用墓地的一丛菅芒当箭就能射死皇帝，梁克家能携五虎复活做天子，但其子将九十九日错算为百日，一箭只射到龙椅下，丫鬟将喂虎山的五块肉偷食一块，一只虎也没能复活，便有了“五虎朝