裁军通电，被缩编为第四师，缪培南任师长，下辖三个旅。到了1929年中，蒋介石与桂系爆发蒋桂战争，张发奎率第四师与桂系作战，进驻湖南。蒋得胜后，企图将第四师缴械，张于是又联合桂系反蒋，再次起用「第四军」番号，以薛岳为军长，并南下广东。但是在广东花县一带为陈济棠及陈铭枢部所大败，被迫撤返广西。次年初，蒋光鼐在北流大败第四军，第四军只剩三团约五千人。年中，爆发中原大战，再以第四军名义联合桂系参加反蒋。但开至湖南后为陈铭枢部切断而败退，全军只剩一千余人。之后第四军缩编，併入桂系。在经历上述一系列惨痛失败后，张发奎部