光禄大夫，不久又兼任给事黄门侍郎，监督主管国家藏书。李玙后来外任骠骑大将军、东徐州刺史，处理政事清简，无为而治，百姓和官吏依恋他。任期结束后，李玙返还，以年老有病，不再追求在仕途中进取。北齐接受禅让时，召回李玙兼任前将军，引导百官在圜丘行礼，又让李玙代理护军，陪同齐神武帝高欢的神主进入太庙。李玙不愿在两个朝代做官，虽然以年老且德高望重被北齐征召，事情办完就谢绝朝见皇帝。齐文宣帝高洋也曾命令李玙参与华林宴，访问从前的典章制度，十分尊重他。天保四年（553年），李玙去世，虚岁七十二。李玙的子孙繁盛众多，往来出行