出任京汉铁路局法文翻译。后经总理各国事务衙门保奏，候选中书科中书，擢同知府候补道，不久便调入外务部。光绪九年（1883年），随李鸿章赴俄国签订中俄边界条约。光绪十一年（1885年）起，任驻英国和驻俄国使馆翻译。光绪十六年（1890年），任驻英国钦差大臣龚心湛的随员。当时，吴宗濂着《随轺笔记》，内中记述了孙中山在伦敦蒙难的事件，并对西方文化介绍得十分详细。光绪二十三年（1897年），吴宗濂回国，到芦汉铁路稽查部任职。光绪二十八年（1902年），任驻法国使馆秘书。光绪二十九年（1903年），任驻日斯巴尼亚使馆代