远东司中蒙处任副处长。1978年，芮效俭派往北京，任美国驻华联络处副主任，是主任伍德科克的主要助手，参与了中美建交谈判的全过程。1979年中美建交后，芮的身份也随之转为驻华大使馆副馆长。1981年，芮调任美国驻泰国大使馆副馆长，1984年升任美国驻新加坡大使。1986年，奉调回国务院任助理国务卿帮办。1989年开始，芮先后任乔治·P·舒尔茨和詹姆斯·贝克两位国务卿的特别助理兼执行秘书。1991年，芮效俭被任命为美国驻中国大使，1995年调任美国驻印尼大使。1999年秋，芮效俭升任美国国务院助理国务卿