2年），授建节尉。从山东义军首领孟海公起兵，占据郓州。唐武德四年（621年）二月，孟海公被窦建德在周桥击败，手下军队被窦建德收编后与徐圆朗的军队被派到洛阳救援王世充。五月窦建德、孟海公等被唐军击败被俘至长安处死，六月蒋善合以郓州之地降唐，被任命为戴州禹城县令。孟海公的从弟戴州刺史孟啖鬼以孟海公的儿子孟义为首领，在曹、戴二州起兵反唐，并打算联络蒋善合一同发难，可是蒋善合暗中召集亲信，设伏杀了孟啖鬼，被唐朝授为大将军、郓城县开国公，食邑一千户。不久授持节郓州诸军事、郓州刺史。武德六年（623年），转任扶州刺史（