任尚书左丞。魏孝武帝元修即位后，以孙腾为左仆射，孙腾是高欢的心腹，带着兵器进入尚书省，元玄依照法律纠举弹劾他，当时的人都为元玄担心，魏孝武帝看重元玄的刚强正直，封他为临淄县子。元玄后跟随魏孝武帝西入关中，被封为陈郡王，位仪同三司，加开府，后官至七兵尚书。大统三年（537年）秋，独孤信回到长安，他认为自己的行为有损国家的威望，上书请求治罪。西魏文帝元宝炬交尚书省讨论。七兵尚书、陈郡王元玄等人商议说：“边将督军，恭行天罚；军队被歼而至大败，国法不会放过。荆州刺史独孤如愿，身当重任，远袭襄宛，斩杀敌军主帅辛纂，传