。后来张俭又当了检校胜州都督，但是因为母亲去世需要守丧而离开职位。张俭之前在朔州，李靖平突厥之后，一个贫穷名叫思结的部落归顺张俭，张俭招慰安置他们。还有一些没有来归顺的部落成员在碛北，因为与思结有亲属，时常与他们互相往来，张俭不禁止此事，只维持纲纪，羁縻管治。张俭离开此职位后，贞观四年（630年）九月，新到任的官员不知此事，告诉朝廷思结想要叛乱。朝廷商议想要出兵讨伐，于是任用还在守丧的的张俭为使者，观察那些部落的动静，并进行抚纳。张俭一个人进入部落，召诸首领慰谕，推心置腹，他们都匍匐叩头而至，迁徙到代州