出任陕西布政使，不久代理陕西巡抚。由于他保证了左宗棠进军新疆期间的粮草供应，为平定阿古柏之乱做出了贡献，光绪元年（1875年），实授陕西巡抚一职。光绪五年（1879年），谭钟麟调任浙江巡抚，在任期间整修了文澜阁，有政绩。光绪七年（1881年），升任陕甘总督，在任内大力发展农业，使得当地经济有了长足发展。光绪十四年（1888年），谭钟麟告病辞职，但三年以后即被再次征召入京，以尚书衔任吏部左侍郎兼署户部左侍郎，管理国库。光绪十八年（1892年）升任工部尚书，不久调任闽浙总督。光绪二十一年（189