为奢侈生活，胡乱任命而被弹劾。后转建威将军、义兴太守。元嘉二十七年（450年），臧质将要调任南谯王刘义宣的司空司马、宁朔将军兼南平内史，但未上任就遇上北魏大军围攻汝南悬瓠（今河南汝南县），宋文帝遂派臧质驰赴寿阳（今安徽寿县）并统领寿阳军队，联同安蛮司马刘康祖救援坚守的守将陈宪。不久，魏军撤退，臧质奉命转讨汝南西方的山蛮，终大破蛮族，俘获万多人。事后转任太子左衞率，可是就因被指攻打蛮族时枉杀队主严祖以及收纳男宠牲口，遂被免官。正在免官之时，宋文帝下令北伐，臧质白衣联同骠骑司马王方回进攻许洛一带，途中臧质知道