绪七年（1881年），升任陕甘总督，在任内大力发展农业，使得当地经济有了长足发展。光绪十四年（1888年），谭钟麟告病辞职，但三年以后即被再次征召入京，以尚书衔任吏部左侍郎兼署户部左侍郎，管理国库。光绪十八年（1892年）升任工部尚书，不久调任闽浙总督。光绪二十一年（1895年），调任两广总督。任内禁止了当时在广州流行的一种闱姓赌局；也镇压了孙中山领导的第一次广州起义，下令当时的南海县知县审理陆皓东等革命党人的犯罪事实。其间并多次上疏反对戊戌变法，受到慈禧太后的赏识。光绪二十五年（1899年