作后，出任中共中央对外联络部西亚非组组长、三局局长；1978年，升任副部长。1982年4月，吴学谦转任外交部第一副部长、党组书记；并于同年11月19日晋升为外交部长；1983年6月19日升任国务委员后，仍继续兼任外长职务5年。1988年4月，吴学谦在李鹏内阁中，出任负责外交事务的国务院副总理。1993年3月，届满离任后，他又被安排出任第八届全国政协第二副主席。2008年4月4日（清明节）上午9时38分，吴学谦在卫生部北京医院因患帕金森症病逝，终年87岁；4月10日，在八宝山革命公墓举行遗体告别仪式后