十四年（618年），杜伏威向东都（今河南洛阳）越王杨侗称臣，获封为楚王，拜东道大总管。唐高祖武德二年（619年），由于唐朝实力强大，便归安于唐朝，授东南道行台尚书令、江淮以南安抚大使、上柱国，封吴王，赐姓李，预宗正属籍，封其子杜德俊为山阳公。次年，击败李子通，将根据地迁至江南的丹阳（今江苏南京）。武德四年，唐军攻围洛阳，伏威遣兵助战。武德五年（622年），秦王李世民镇压河北刘黑闼、徐圆朗，连下十余城，淮北震动，七月，召杜伏威入朝，临行前以辅公祏留守丹阳，将兵权交给右将军王雄诞，辅公祏心生不满。武德六年（