是家中次子，自幼学佛，操行良好，与兄弟同在家中读书，终年不出户。人称河东大士。家里送来鹿肉，别人让他一起吃，裴休说：“蔬食犹不足，今日食肉，来日何以为继！（平日吃素食尚且不够，今天吃了鹿肉，以后如何继续）”。唐穆宗长庆年间，擢进士，又登贤良方正甲科。官监察御史、兵部侍郎，兼诸道盐铁转运使。大中六年（852年），进同中书门下平章事，“性宽惠，为官不尚皦察，而吏民畏服”。立税茶十二法。在相位五年，大中十年罢相，为检校户部尚书、汴州刺史、御史大夫，充宣武军节度使，封河东县子。此后历昭义，河东，凤翔，荆南四节度使。