曾就肃顺聘，甚为后者倚重。其间曾救左宗棠。肃顺倒，不得重用，返乡。后年所作《祺祥故事》，多为肃顺被杀一事不平，为之辩诬讼冤。太平天国时期入湘军曾国藩幕府，后因意见不合而退出。曾受到四川总督丁宝桢邀请执掌成都尊经书院，后辞退回湖南先后主持长沙思贤讲舍，衡州船山书院。光绪28年（1902年）主办南昌高等学堂，但不久即辞退回湘，在湘绮楼讲学授徒。光绪三十二年（1906年），以其讲学之举而被特授翰林院检讨。民国二年（1913年）受袁世凯聘入京，任国史馆馆长，编修国史。兼任参议院参政，复辟声潮中辞归。