议攻取长安和关中一带，又不被杨玄感接受。最终杨玄感决定攻打较近的东都洛阳。但洛阳久攻不下，杨玄感被迫撤围，最后在逃窜的途中兵败被杀。李密在逃亡的途中被隋军逮捕，但在押送的途中通过贿赂监军的方式成功逃脱，在乡间隐姓埋名。大业十二年（616年）李密通过王伯当的介绍投奔瓦岗军，并设计袭破了兴洛仓，开仓放粮，他以“就仓吃米”号召群众，得到了广大百姓的支持。随后又在荥阳大海寺击杀隋朝名将张须陀。这使得瓦岗军首领翟让非常器重李密，凡事皆言听计从。大业十三年初（617年），李密获准建立「蒲山公营」，逐渐掌握兵权。