到檄文直接退回，羊昌押解进京。从此桥玄闻名。举孝廉，担任洛阳左尉。四次升迁到齐国相，因过失受罚。曾任上谷太守和汉阳太守。桓帝末年桥玄被推举为度辽将军，平定了胡虏及伯固等边境之乱。灵帝初年又召回他先后任河南尹、少府、大鸿胪等职。建宁三年（170年）升为司空，后改任司徒。翌年担任尚书令。光和元年（178年），升为太尉，数月后托病辞官。曹操初出曾拜会桥玄，当时曹操尚未出名，桥玄对他评价颇高，称「天下将乱」，而曹操是能够安定天下的「命世之才」。将他引荐给许劭。后来曹操途经桥玄墓时亲自为他撰文缅怀。