吏依恋他。任期结束后，李玙返还，以年老有病，不再追求在仕途中进取。北齐接受禅让时，召回李玙兼任前将军，引导百官在圜丘行礼，又让李玙代理护军，陪同齐神武帝高欢的神主进入太庙。李玙不愿在两个朝代做官，虽然以年老且德高望重被北齐征召，事情办完就谢绝朝见皇帝。齐文宣帝高洋也曾命令李玙参与华林宴，访问从前的典章制度，十分尊重他。天保四年（553年），李玙去世，虚岁七十二。李玙的子孙繁盛众多，往来出行的人称他的住宅为李东徐村。