他历任着作佐郎、中书舍人、着作郎，又撰起居注，兼修国史二十余年。期间深感宰相大臣监修，多所干预，不能秉笔直书其言。景龙二年（708年）辞去史职，从事私人修史工作。刘知几一生从事史书编辑工作，着有《刘氏家乘》十五卷、《刘氏谱考》三卷、《史通》二十卷、《睿宗实录》十卷、《刘子玄集》三十卷；合着有《三教珠英》一千三百一十三卷、《姓族系录》二百卷、《唐书》八十卷、《高宗实录》二十卷、《中宗实录》二十卷、《则天皇后实录》三十卷。仅有《史通》传世，对中国唐朝以前的史籍作了全面的分析和批评，是中国第一部史学理论专着。