自重之桂系李宗仁、白崇禧乘机逼蒋下台；在武汉之汪精卫和唐生智又组织东征军通电讨蒋；而何应钦等嫡系亲信此时亦不愿出来维持蒋之地位；蒋被迫于8月13日宣布辞总司令职下野，回家乡住一个多月后，于9月28日赴日本访问，与日本朝野各界广泛接触，会见了时任日本首相田中义一，田中义一只表示支持蒋反共和统一中国南方，不支持他北伐及统一整个中国。蒋下野后，李宗仁于8月16日电告汪精卫，请将武汉中央政府尽快迁往南京，汪精卫翌日在中央政治委员会会议上称，南京政府已经无人负责、停止办公，汪精卫遂覆电李宗仁，决定迁南京，宁汉