。洪武十八年（1386年），授左春坊赞善，累迁翰林学士，深受朱元璋信任。其为《明大诰》及《御制洪范註》作序，并修订《省躬录》、《书传会选》、《寰宇通志》、《礼制集要》诸书，与汪睿、朱善称「三老」。洪武二十三年，任晋世子经，二十四年（1391年），吏部侍郎侯庸弹劾79岁的刘三吾年老怠职，遂俸禄被减半，降为国子博士。此后辞职还乡。刘三吾为人坦荡，没有城府。当时懿文太子去世，其进言应当立皇孙为嫡系，此为建文帝确立之始。二十六年（1393年）二月，外孙单庆以府军前卫千户牵连蓝玉案被杀，女儿良玉被刺面后发配浆糨房