不堪其扰，相率叛乱，唐太宗下诏发陇右、峡兵二万，以茂州都督张士贵为雅州道行军总管，与右卫将军梁建方平之。事平，拜金紫光禄大夫、扬州都督府长史。唐高宗永徽二年(651年)，召拜左领军大将军。永徽四年(公元653年)，张士贵以年老目疾致仕，授镇军大将军。显庆二年六月三日（657年7月19日），以风湿病加重不治去世于河南县(属于东都洛阳)显义坊府第，年七十二岁，追赠荆州都督，谥号襄，陪葬昭陵。嗣子右屯卫郎将张仁政。上官仪亲自为其撰写墓志铭。
被民间传说扭曲.在关于薛仁贵的许多民间小说