次年（617年）伏威又击败名将陈稜率领的隋军，乘胜破高邮，之后在淮南的历阳（今安徽省和县）自称总管，以辅公祏为长史，又合并江淮各部，占有江淮间广大地区。伏威善治军，能与将士同甘共苦，每次战斗，将士皆奋勇冲杀，争效死力。所获财物，皆赏将士；战死者，以其妻妾殉葬。故将士皆为他战，所向无敌。伏威又实施减赋税、废殉葬、惩贪污等措施，逐渐赢得了民众的信任。大业十四年（618年），杜伏威向东都（今河南洛阳）越王杨侗称臣，获封为楚王，拜东道大总管。唐高祖武德二年（619年），由于唐朝实力强大，便归安于唐朝，授东南道行台