八年（494年）九月，魏孝文帝亲自考核官员，他对李彦说：“你虽然担任谏议大夫的官职，实在是人不称职，可以免去谏议大夫，降为元士。”李彦不久代理主客曹，改任郊庙下大夫。当时北魏朝廷的礼仪和典章制度还不完备，李彦留心考核审定之，以称职着称。 魏孝文帝南征南齐时，李彦劝谏说：“臣认为小小的长江闽水地区，不值得皇帝亲征。”屡次上表劝谏，魏孝文帝虽然没有听从采纳李彦的意见，却也嘉许他的至诚。北魏军队驻扎于淮南时，朝廷征调李彦担任广陵王元羽的长史，加号恢武将军、西翼副将军。李彦回朝后被任命为冀州赵郡王元干的