侍讲，康熙二十一年充《明史》总裁。康熙二十三年（1684年）升任内阁学士，是年出任江宁巡抚，任职期间鱼肉荤腥概不入衙署，每日只买三块豆腐作菜餚，人称“豆腐汤”、“羊裘公”，兴礼作教，抚民化俗，扫荡五通神迷信有成。康熙二十五年（1686年）升任礼部尚书管詹事府事。再充《明史》总裁。汤斌历任江西岭北道参政、内阁学士、礼部侍郎、江苏巡抚、礼部尚书、工部尚书等职，始终生活清苦、勤政为民，在朝廷上，汤斌忠直敢言，不附权贵，勇于针砭时弊、抨击朋党。他手书一联以自勉：「君恩高似天、臣心直如矢。」，也由于敢言直谏的作风