德三年（620年）六月，李渊集中兵力削平王世充、窦建德、萧铣，于是用特殊待遇拉拢杜伏威，下诏授杜伏威使持节、总管江淮以南诸州军事、扬州（治今南京市）刺史、东南道行台尚书令、淮南道安抚大使、上柱国，封吴王，赐姓李氏，主宰东南军务，位在秦王李世民之下、齐王李元吉之上；以辅公祏为行台左仆射，封舒国公。武德五年（622年）七月，唐朝秦王李世民击败刘黑闼起义军后，乘胜进攻反唐的兖州总管徐圆朗，兵震淮泗，李渊令杜伏威入朝。杜伏威从命，以辅公祏守丹阳（今南京市），将兵权交给右将军王雄诞。辅公祏不满，诈称得杜伏威书信，