将军阳固之子。魏宣武帝永平二年出生，始任州主簿。阳休之隽爽有风概。少年勤学，热爱文藻，与祖鸿勋有往来。弱冠之年即有声誉。在北魏，历官中书侍郎。北齐天统年间阳休之为吏部尚书。凡所选用，才地俱允。武平六年（575年），任尚书右仆射，不久，又领中书监。官至高阳太守。周武帝平齐，拜上开府，和州刺史。隋文帝开皇二年罢任，卒于洛阳，享年七十四岁。
着作.阳休之着有文集三十卷，又撰《幽州古今人物志》三十卷，并行于世。另编有《陶渊明集》，乃在萧统八卷本的基础上，增加了别本的〈五孝传〉和〈四八目