因以前曾与罗艺联系过，被撤职。太宗后以刘师立是秦王府的老部下，重新任命他代理(在今甘肃定西市岷县)。任内派人离间吐谷浑各部落，招降亲唐的部落，设置为开、桥二州。党项首领拓跋赤辞亦在他的招安下率众归附唐朝，拓拔赤辞被任命任命为西戎州都督，赐姓李氏，即是后世西夏祖先。击破经常扰边的河西党项破刃氏，他任官受到百姓爱戴，在母亲去世时本来是要丁忧去职守孝，被父老上表请求留任，最终太宗下诏不许赴哀，复令居任。后转任始州刺史(今四川广元市剑阁县)、左屯卫大将军。贞观十四年（640年）去世，谥曰肃。