方继续分头北伐，张率第四军、十一军于河南大败张作霖奉军主力。6月回到武汉，昇任武汉任命之第二方面军总指挥，并且准备讨伐蒋介石。1927年7月初发生宁汉合流。张发奎部下不少人为共产党人但张一直未曾大力反共直至7月中才决心清共。7月30日张发奎在庐山与汪精卫、孙科等宣佈进行分共。8月1日，张的部下，由中国共产党控制之十一军二十四师（叶挺）、新编二十军（贺龙）在南昌发动南昌起义。张即以其余部，包括四军（军长黄琪翔）十二师(缪培南)、四军二十五师(李汉魂)、十一军二十六师(许长志)前往南昌讨伐。但之后张没有力追