从祖父，人称葛仙翁或太极左仙公。自幼好学，博览五经。喜老庄学说。西晋时传说，葛玄遇到方士左慈，得受《太清》《九鼎》《金液》等丹经、《三元真一妙经》等，传授给郑隐（郑隐后来又把丹经给葛洪）。葛玄后遨游括苍山、南岳、罗浮山、阁皂山诸山。道书中有关于葛玄能辟谷，用符箓为人驱病，行诸奇法的种种传说。东晋后期传说，太极真人徐来勒把灵宝经传授葛玄，葛玄传给郑隐，郑隐传给葛洪，再辗转传给葛巢甫，自此灵宝经大行于世。葛玄成为灵宝经出世与传授的关键人物。宋崇宁三年（1104年）封为冲应真人。道教灵宝派派别阁皂宗奉