苾何力率凉州及胡兵、代州都督薛万彻、张俭各率所部兵分道并进，以攻击刚被回纥击败的薛延陀，太宗也亲自到灵州为大唐军队声援。薛延陀因此大败，多弥可汗逃走被回纥攻杀。战争胜利后，把东夷校尉改成东夷都护，并任命张俭担任此职务。
过世.唐高宗永徽初年，加封为金紫光禄大夫。永徽四年，在其任内去世，享寿六十岁，谥密。女儿张氏年幼时，张俭夫妇生病，女儿服侍父母亲，一步也不离开，昼夜皆问候父母亲，十分早熟与孝顺。稍微年长时，更加恭敬与孝顺。张氏后来嫁给延寿公于钦明的儿子于敏直。当女儿张氏一听到父