年毕业后分配到中华人民共和国外交部，曾为毛泽东、周恩来、陈毅等国家领导人担任法语翻译。1971年中华人民共和国取代中华民国在联合国的中国代表席位后，吴建民是第一批常驻联合国的工作人员之一，曾任中国常驻联合国代表团三秘、二秘、参赞。1991年任中国外交部新闻司司长、发言人。1994年9月，接替王庆余，担任中华人民共和国驻荷兰大使。1995年，由朱曼黎接任，其改任中国常驻联合国日内瓦办事处和瑞士其他国际组织常驻代表、特命全权大使。1998年，转任中国驻法国特命全权大使，在任上促成了中法两国元首互访彼此的故乡