不出兵的理由，太宗听了很高兴，仍任命他为行军总管，并带领各族的军队，成为六军前锋。当时抓获的高句丽候者称莫离支将要到辽东，诏张俭率兵从新城路邀击之，莫离支终究不敢出战。太宗以李勣为辽东道行军大总管，江夏王李道宗副之，张士贵、张俭、执失思力、契苾何力、阿史那弥射、姜行本、麹智盛、吴黑闼为行军总管隶之，率骑士六万趋辽东。西元645年四月，张俭带领胡人军队为前锋进兵渡辽，并趋近建安城，高句丽大败，被杀了数千人。张俭因为此战功被封为皖城郡公，赏赐甚厚。西元646年六月，唐太宗任命李道宗、左卫大将军阿史那社尔为瀚