当守金墉城，结果李密大败，王伯当没有像单雄信、程咬金、秦叔宝一样，离开李密，而是和李密一起投靠关中的唐朝。王伯当被唐高祖李渊封为左武卫将军，李密为光禄卿。李密不满，与王伯当密谋回中原投奔黎阳的徐世勣和襄城郡的张善相，重建瓦岗军，向唐高祖假称招抚余部。武德元年（618年）十一月廿九，唐高祖派贾闰甫、王伯当与李密同去。贾闰甫在华州知道李密的计划后，劝说李密停手，李密不听，还想杀死贾闰甫。王伯当为贾闰甫求情，贾闰甫得生，去往熊州。王伯当也认为李密会失败，但遭到李密拒绝后，依然跟随李密。腊月三十，李密占领桃林县