文帝亲征，魏军抵达马圈后，魏孝文帝患上重病，特意命令太师彭城王元勰和元遥侍奉，魏孝文帝去世的时候，就是在元遥怀中。魏孝文帝死后一旬零二天，元遥前往京城奉迎太子元恪到鲁阳，正式发布魏孝文帝的死讯。
宣武帝时期.景明初年，元遥出任平西将军、泾州刺史。元遥因为生母去世，上表请求解除职务，魏宣武帝诏令以非直系亲属的余尊厌，不准许。元遥很快被征召出任七兵尚书，又升任中领军，在任内受到称职的赞誉。正始三年五月，南梁进攻北魏，五月壬午（506年6月24日），魏宣武帝元恪诏令尚书元遥率领军队前往讨