世充决战后，随李密归降唐朝，守黎阳，被唐高祖诏授黎阳总管，李密在黎阳起事，徐世勣献黎阳投降，请求收葬李密的尸首，得到李渊的允许。后跟随秦王李世民先后讨伐刘武周、王世充、窦建德、刘黑闼和徐圆朗等割据势力，武德六年（623年），又跟随赵郡王李孝恭和李靖讨伐辅公祏。入唐后，唐高祖李渊说徐世勣是“纯臣”，赐他姓李。先封曹国公，后封英国公。贞观年间，曾参与平定东突厥、薛延陀、高句丽的战役。武德八年（625年）突厥进犯，李世勣讨伐。贞观三年（629年）大破突厥，俘五万人而归，镇守并州十六年（参见唐灭东、西突厥之战）