洛阳人。
生平.卫玄祖父卫悦，北魏司农卿，父卫摽，侍中、左武卫大将军。北周周武帝为鲁公时，召卫玄为记室。转任给事上士，嗣爵兴势公。进位宣纳下大夫。武帝亲政，卫玄任益州总管长史。升任开府仪同三司、太府中大夫，治内史事，兼京兆尹。周宣帝时，因违命免官。580年，杨坚为丞相，卫玄以检校熊州事复官。和州蛮作乱，卫玄为行军总管镇压。581年，隋朝建立，卫玄升任淮州总管，封同轨郡公，因事连坐免官。不久，改任岚州刺史。监督劳役修建长城。检校朔州总管事。后任卫尉少卿。601年，巴蜀深山中的山獠