，梁国睢阳（今河南商丘南）人。桥玄的七世祖是人称“桥君学”的桥仁，在汉成帝时任大鸿胪，着有礼记章句四十九篇。祖父桥基曾任广陵太守，父亲桥肃曾任东莱太守。东郡太守桥瑁为其族子。
生平.桥玄年轻曾担任县功曹。《后汉书》记载，当时豫州刺史周景到梁国视察，桥玄跪地向周景陈述当时陈国相（封国首长，位阶相当于郡太守）羊昌罪恶。周景觉得他有壮志，任命他办理此案。桥玄上任立即收押羊昌门客，彻查罪行。受大将军梁冀庇护，梁冀发檄文给周景让他收回任命，桥玄收到檄文直接退回，羊昌押解进京。从此桥玄闻名。