并协助讲学丽泽书院。淳熙八年（1181年8月），奉派监明州仓，适逢吕祖谦去世，吕祖俭服兄丧一年而不赴任，丽泽书院由吕祖俭主持。吕祖俭后历任衢州法曹、籍田令、司农簿、台州通判，办浙东赈务。庆元元年（1195年）任太府丞。时韩侂胄任枢密都承旨，与右丞相赵汝愚倾轧，韩侂胄指使正言李沐劾赵汝愚，并参劾颂赵汝愚者。吕祖俭上书，反对斥逐忠良老成之臣，说：“恐自是天下有当言之事，必称相视以为戒。钳口结舌之风，一成而不易反，是岂国家之利耶？”宋宁宗认为目无君主，“朋比罔上”，吕祖俭遂被贬置韶州，中途改吉州。后吕祖俭