5年，由朱曼黎接任，其改任中国常驻联合国日内瓦办事处和瑞士其他国际组织常驻代表、特命全权大使。1998年，转任中国驻法国特命全权大使，在任上促成了中法两国元首互访彼此的故乡、中法建立双边战略对话机制等一系列重大外交活动。2003年离任前夕，时任法国总统希拉克破例在总统府爱丽舍宫接受吴建民辞行并亲自授予其法国荣誉勋位团大军官勋章，这是仅次于法国总统授予外国元首的十字勋章的全法最高表彰奖，授予一位离任大使是破天荒第一次。2003年，担任全国政协外事委员会副主任，并出任外交学院院长，在外交学院开设交流学课程并