海市工委秘书长等职。中华人民共和国建国后，他历任共青团中央驻世界青联代表，团中央国际部副部长、部长、中央委员、常委等职，后调任中共中央对外联络部五处处长等职。在“文化大革命”中，吴学谦受到打击，下放“五七干校”劳动。在1972年恢复工作后，出任中共中央对外联络部西亚非组组长、三局局长；1978年，升任副部长。1982年4月，吴学谦转任外交部第一副部长、党组书记；并于同年11月19日晋升为外交部长；1983年6月19日升任国务委员后，仍继续兼任外长职务5年。1988年4月，吴学谦在李鹏内阁中，出任负责外