辞官归里，“无淮南一物，唯有所乘马一匹，诸子好步从而归。”景龙三年（709年）卒，终年七十五岁。
着作.着《十代兴亡论》，凡十一篇，有《魏武帝论》、《晋高祖论》、《宋武帝论》、《北齐高祖论》、《北齐文襄论》、《北齐文宣论》、《梁武帝论》、《陈武帝论》、《陈后主论》、《隋高祖论》、《隋炀帝论》。