当时陈国相（封国首长，位阶相当于郡太守）羊昌罪恶。周景觉得他有壮志，任命他办理此案。桥玄上任立即收押羊昌门客，彻查罪行。受大将军梁冀庇护，梁冀发檄文给周景让他收回任命，桥玄收到檄文直接退回，羊昌押解进京。从此桥玄闻名。举孝廉，担任洛阳左尉。四次升迁到齐国相，因过失受罚。曾任上谷太守和汉阳太守。桓帝末年桥玄被推举为度辽将军，平定了胡虏及伯固等边境之乱。灵帝初年又召回他先后任河南尹、少府、大鸿胪等职。建宁三年（170年）升为司空，后改任司徒。翌年担任尚书令。光和元年（178年），升为太尉，数月后托病辞官。