将军，仍然参与修撰国史。随后任建武将军，到地方担任庐陵内史。担任了三年地方官后，永明四年（486年）复任骁骑将军，朝廷诏令江淹造歌，江淹不依胡道安、傅玄制《祀先农迎送神升歌》及《飨神歌》二章。后来江淹还兼任过尚书左丞、国子博士和御史中丞。齐明帝萧鸾当宰相时，因向御史中丞江淹说：「您以前当尚书时，非公事不妄行，在官宽勐相济能折衷；现在为中丞，足以震肃众多官僚。」江淹答说：「今日之事，可谓当官而行，更恐才劣志薄，不足以仰称明旨耳。」于是江淹弹劾了中书令谢朏、司徒左长史王缋、护军长史庾弘远，并以久疾不预山陵公