张俭搬到营州当都督，并兼任护东夷校尉。后来因为某事被免职，朝廷便叫他以平民的身份领职事。营州部这个地方与契丹、奚、霫、靺鞨等外族接壤，高句丽引他们入侵大唐帝国，于是张俭率兵打败他们，又得到营州都督这个官位。西元641年十一月，薛延陀攻打突厥，突厥俟利苾可汗无法抵挡攻势，派遣大使到唐朝告急。唐太宗命令张俭率领军队到奚、霫、契丹压薛延陀东境，兵部尚书李勣为朔方行军总管，右卫大将军李大亮为灵州道行军总管，庆州道行军总管张士贵出云中，凉州都督李袭誉为凉州道行军总管，分道以御之。十二月，唐军打败薛延陀。西元6