罢相后，群臣们都认为韩滉受屈，韩滉才得以升为殿中侍御史。同年七月，王玙被任为兼蒲州刺史、充蒲同绛等州节度使。三年（760年）四月，在刑部尚书任上改太常卿。上元二年（761年），兼扬州长史、御史大夫，充淮南节度使。一次肃宗行完南郊礼，以王玙为使持节都督越州诸军事、越州刺史，充浙江东道节度观察处置使，以本官兼御史大夫，仍任祠祭使。奏王栖曜为马军兵马使。后又被召回为太子少保，转太子少师。唐代宗大历三年六月卒。赠开府仪同三司，谥简怀。曾孙王抟，为唐末唐昭宗年间宰相。