求回到洛阳为官，灵太后再次重用郑俨，任命他为谏议大夫、中书舍人，兼尝食典御。郑俨昼夜在禁中，深受灵太后宠爱。郑俨和徐纥有智谋，协力城阳王元徽，操纵北魏政权。升任通直散骑侍郎、散骑常侍、平东将军，转任武卫将军、华林都将、右卫将军、散骑常侍，官至中军将军、中书令，受号车骑将军。528年（武泰元年），魏孝明帝讨厌他，突然暴卒，北魏朝野认为这是郑俨的暗杀计划。大都督尔朱荣以讨郑俨、徐纥为辞，举兵向洛阳。尔朱荣逼近洛阳，郑俨逃回荥阳。郑俨和堂兄郑仲明想在荥阳郡起兵，不想被部下杀害，首级送到洛阳。其子郑文宽，随魏孝武帝