官杨嗣请求改姓羊，徐玠说：“陛下应天顺人，不是逆取，谄邪之人以这些事更改讨好，不是当务之急，不要听从。”徐知诰认为很对。徐玠被任命为宁国军节度使（治今安徽省宣城市）。在宣州时，他的妻子杨氏愤恨而卒。之后，徐玠改任镇南军节度使（治今江西省南昌市），兼中书令。之后召回金陵，担任司徒、右丞相，但并不参与朝政。据说他年老时，更加贪婪，他的下属都以他为祸患。他还参与炼丹，往往买折扣的朱砂练药，被人嘲笑。943年五月，徐玠卒，时年七十六岁，赠南平郡王。