随罗艺四处转战其他起义军，投入太子李建成幕府，受其赏识。玄武门之变时，率东宫兵马力战，甚至反扑秦王府，直到李世民派人出示以太子首级，他才放下武器带领数十骑逃入终南山。后来唐太宗赏识其武勇，屡次遣使招谕才复出拜将。贞观三年（629年），以行军总管从李靖征讨突厥，击败颉利可汗，因功功升为右卫将军，进爵郡公。贞观十三年（639年），唐太宗命侯君集、薛万彻等率兵伐麴氏高昌，贞观十五年（641年），同李世勣出击薛延陀的回纥军，有功改任左卫将军。封一子为县侯。贞观十八年（644年），尚高祖女丹阳公主，拜驸马都尉