刘贵曾互相切磋砥砺，学问更加进步。光绪八年（1882年）壬午顺天举人。光绪十二年（1886年）丙戌科第二甲第二十九名进士出身。授户部学习主事。缪祐孙对此职位不满意，随即考取总理衙门外国游历员，派往俄国。十三年（1887年）九月十三日，自海路经香港、新加坡至义大利热那亚，转乘火车经德国柏林前往圣彼得堡，十月二十三日到达。周游俄罗斯境内二年。十五年（1889年）从陆路经恰克图归国。往返十万余里，途经水陆、历时冬夏，翻越险阻、克服酷暑与严寒，「亲履观览山川险要、政治得失、帑藏盈绌、兵力厚薄、物产饶