圣慈擢处相位，不能悉心奉职。郑覃说‘三年之后，一年不如一年’，是臣之罪。即使陛下不诛夷，臣也应当自求泯灭。”杨嗣复多次请辞，文宗正委他以政事，最终于当月罢免了陈夷行、郑覃，罢陈夷行为守吏部尚书，九月又改任他为检校礼部尚书，出为华州镇国军防御使。任内表进士刘瑑为判官。
唐武宗年间.五年（840年），唐武宗继位后，以李德裕为首席宰相，任陈夷行为检校礼部尚书，又召为御史大夫，七月又任他为中书侍郎、同平章事，以银青光禄大夫、守尚书左仆射、兼门下侍郎、同中书门下平章事、监修国史进尚书左仆射，