奉命以行军总管身份，随梁睿前去平叛。王谦得知梁睿军由嘉陵江（西汉水）上游沿江而下，遂派遣开府李三王等镇守通谷（通谷堡，在今甘肃狄道县东北），梁睿派使张威击破，擒数千人，进至开远（今甘肃固原西南）、龙门（今四川广元境）。接着张威又绕小路突袭开远，益州刺史达奚惎逃往成都。张威继续率中军奋勇出击成都，大败王谦，达奚惎、乙弗虔开城投降。王谦在新都被俘斩，益州叛乱遂平。因功被提拔为上柱国、泸州总管。后拜青州总管。张威“在青州颇事产业”，哄抬萝卜（芦荻根）价格，“遣家奴于人间鬻芦菔根”，受到文帝的谴责，被废为平民。