Etter at den første kinesisk-japanske krigen som tok slutt i 1895, ble Abe uteksaminert fra den keiserlige japanske militærakademiet. I august 1918 ble regimentet som han var en del av sendt til Sibir under Japans sibirske kampanje, men han var aldri personlig involvert i noen kamphandlinger. Abe ble utnevnt til kommandør av den fjerde infanteridivisjon, den 22. desember 1930.