29年，爆发蒋桂战争，徐景唐支持桂系，被效忠蒋介石的陈铭枢及陈济棠部大败。第五军被缩编为国民革命军第5师，军级番号遭到剥夺；但是该番号随即在中原大战爆发前夕遭复职的鲁涤平所使用（下辖第18师、第50师）。中原大战后，在第二次江西剿共战争期间下辖部队遭中国工农红军击溃，18师师长张辉瓒遭俘虏、50师师长谭道源则在混战中逃跑，第五军番号于1931年停用。1932年于上海一二八事变，最初在该地迎战的仅有国民革命军十九路军。在战事有扩大的迹象后，蒋中正以中央军第87、88师编成第五军（军长张治中）投入上海战场。