江陵，父段谔，官江陵县令。祖父段怀晈，曾祖父段瓘，高祖父为褒国公段志玄。少有才名，贞元初年，剑南节度使韦皋荐为校书郎，累擢翰林学士、中书舍人。贞元十五年（799年），入蜀初授校书郎。唐宪宗元和十二年（817年）李愬平定淮西（今河南省东南部）吴元济，韩愈写碑文，碑成，立在汝南城北门外。由于碑文大力歌颂裴度功勋，甚少提到立功极大的李愬的事蹟，李愬的部下石孝忠愤怒，将碑文砸毁。天子时敕段文昌重撰。唐穆宗即位，与令狐楚同拜中书侍郎、同中书门下平章事。未逾年，长庆元年（821年），请辞相位，出为西