州道、兖州道、青州道和徐州道，不久被隋军镇压。613年刘元进据吴郡，自称天子，同年被灭。直到杨素的儿子杨玄感于黎阳（今河南浚县东北）举兵叛变，隋朝的达官子弟纷纷参加，带动全国各地纷纷叛乱。当时群雄割据，数量繁多，主要势力如下：河南地区有翟让、李密的瓦岗军。616年翟让在李密建议下，攻破要塞金堤关（河南荥阳东北），打下荥阳诸县。617年瓦岗军又攻破距东都洛阳的粮食存库兴洛仓。由于李密擅长作战，翟让让位给他。李密自封魏公，建国魏，以洛口为根据地。随后佔领回洛仓，直逼洛阳城下。然而内部纠纷使得李密杀翟让等人，