明世宗论擒获汪直之功，以“宗宪矢心为国，殚竭忠谋，劳绩殊常，宜加显擢，以示激励。”遂加擢其为太子太保、都察院左都御史兼兵部右侍郎，总督如故，三月之后被擢升为兵部尚书兼都察院右都御史。四十年（1561年）加少保之衔，兼制江西。嘉靖四十一年（1562年）严嵩父子失势，陆凤仪趁机弹劾宗宪为严嵩党，世宗慰曰，“宗宪非嵩党”，而释之。嘉靖四十三年（1564年）解官归里。次年，朝廷获得严嵩之子严世蕃给胡宗宪的亲笔书信，辩诬无望，于是宗宪被捕入狱，十一月三日，乃吟“宝剑埋冤狱，忠魂绕白云”诗，引刃自尽，死于狱中。