人数发展到数万人，几度击败官军，后引军向南渡河，转掠鲁郡时被隋将张须陀败于泰山下，兵力损伤至仅余万人，王薄被迫往北渡过黄河逃窜，但仍被张须陀追至临邑击败。王薄只好再度北上与孙宣雅、郝孝德等部联合，聚众十多万再攻章丘，但仍为张须陀率两万兵马击溃。唐高祖武德二年（619年），王薄投降了起兵反隋并杀死隋炀帝的宇文化及，但宇文化及不久便被被窦建德领兵包围在聊城，王薄趁机投靠窦建德，开城引进窦军。不久，王薄又改投奔李渊，被任为齐州总管，曾出兵参加镇压徐圆朗，直到武德五年（622年）三月戊戌，谭州刺史李义满杀王薄。