武帝为鲁公时，召卫玄为记室。转任给事上士，嗣爵兴势公。进位宣纳下大夫。武帝亲政，卫玄任益州总管长史。升任开府仪同三司、太府中大夫，治内史事，兼京兆尹。周宣帝时，因违命免官。580年，杨坚为丞相，卫玄以检校熊州事复官。和州蛮作乱，卫玄为行军总管镇压。581年，隋朝建立，卫玄升任淮州总管，封同轨郡公，因事连坐免官。不久，改任岚州刺史。监督劳役修建长城。检校朔州总管事。后任卫尉少卿。601年，巴蜀深山中的山獠作乱，卫尉少卿卫玄出任资州刺史，前去镇压。獠族当时包围大牢镇（今四川荣县），卫玄单骑闯入僚人大营，对僚