宣武帝时，拜中书令，转任青州刺史、太常卿，定律令及朝仪。刘芳无吏治才，以奉公守法，博通经学为当时名臣。延昌二年（513年）卒，年六十一，追赠镇东将军、徐州刺史，谥文贞侯。刘芳撰郑玄所注《周官仪礼音》、干宝所注《周官音》、王肃所注《尚书音》、何休所注《公羊音》、范甯所注《谷梁音》、韦昭所注《国语音》、范晔《后汉书音》各一卷，《辨类》三卷，《徐州人地录》二十卷，《急就篇续注音义证》三卷，《毛诗笺音义证》十卷，《礼记义证》十卷，《周官》、《仪礼义证》各五卷。