生平

衛玄祖父衛悅，北魏司農卿，父衛摽，侍中、左武衛大將軍。北周周武帝為魯公時，召衛玄為記室。轉任給事上士，嗣爵興勢公。進位宣納下大夫。武帝親政，衛玄任益州總管長史。升任開府儀同三司、太府中大夫，治內史事，兼京兆尹。周宣帝時，因違命免官。

580年，楊堅為丞相，衛玄以檢校熊州事復官。和州蠻作亂，衛玄為行軍總管鎮壓。581年，隋朝建立，衛玄升任淮州總管，封同軌郡公，因事連坐免官。不久，改任嵐州刺史。監督勞役修建長城。檢校朔州總管事。後任衛尉少卿。601年，巴蜀深山中的山獠作亂，衛尉少卿衛玄出任資州刺史，前去鎮壓。獠族當時包圍大牢鎮（今四川榮縣），衛玄單騎闖入僚人大營，對僚人首領申明大義陳說利害，獠族渠帥感悅誠服，解圍而走。以後，衛玄又招撫十餘萬僚人歸順朝廷，平定了這場叛亂。文帝楊堅大喜，褒賞衛玄，任命他為遂州總管，安撫劍南。

604年，隋煬帝即位，召還衛玄任衛尉卿。一年後，轉任工部尚書。後以工部尚書任魏郡太守。不久，任右候衛大將軍、檢校左候衛事。612年，轉任刑部尚書。遠征高句麗，檢校右御衛大將軍，率軍出增地道。隋軍敗北，衛玄的軍隊保全回師。受位金紫光祿大夫。

613年，煬帝第二次遠征高句麗，派衛玄輔佐代王楊侑留守長安，任刑部尚書、京兆內史。下令代王楊侑以師傅之禮對待他。楊玄感逼近東都洛陽，衛玄率兵七萬救援東都。到達華陰，挖掘楊玄感父楊素墓，燒毀楊素的骸骨。出潼關後，衛玄屬下擔心崤、函之地有伏兵，建議從陝縣沿流東下，直抵河陽，攻打楊玄感背後。衛玄擂鼓前進。越函谷關，派武賁郎將張峻在南道疑敵，衛玄率大軍直向城北。楊玄感迎擊衛玄，衛玄屯軍金谷。衛玄在軍中掃地祭祀文帝，在靈前決死之誓。衛玄苦戰，很多人死傷。宇文述、來護兒援兵到達，楊玄感向西逃走。衛玄派斛斯萬善、龐玉為先鋒追趕，在閿鄉和宇文述合兵擊敗楊玄感。煬帝車駕到達高陽，煬帝召來衛玄，賜他良田宅邸，讓他回長安。

615年，衛玄受命屯守關中。當時民變四起，百姓飢饉，隋朝官府壞亂，衛玄不能救恤。以年老為由請求告老還鄉，隋煬帝派封倫勸阻了他。李淵太原起兵，進入關中，衛玄知道守不住，稱病不處理政事。李淵進入長安，衛玄棄官回家。617年去世。享年七十七歲。《大唐新語》誤作衛玄被李淵誅殺。

兒子衛孝則，官至通事舎人、兵部承務郎，早逝。