席位后，吴建民是第一批常驻联合国的工作人员之一，曾任中国常驻联合国代表团三秘、二秘、参赞。1991年任中国外交部新闻司司长、发言人。1994年9月，接替王庆余，担任中华人民共和国驻荷兰大使。1995年，由朱曼黎接任，其改任中国常驻联合国日内瓦办事处和瑞士其他国际组织常驻代表、特命全权大使。1998年，转任中国驻法国特命全权大使，在任上促成了中法两国元首互访彼此的故乡、中法建立双边战略对话机制等一系列重大外交活动。2003年离任前夕，时任法国总统希拉克破例在总统府爱丽舍宫接受吴建民辞行并亲自授予其法国荣誉