Ayabe schloss im Oktober 1917 die Kaiserlich Japanische Heereskavallerieschule im Rang eines Unterleutnants ab und wurde daraufhin dem 12. Kavallerieregiment zugeteilt. Vom August 1918 bis zum Juli 1919 nahm er an der Sibirischen Intervention teil. 1924 besuchte er die Kaiserlich Japanische Heereshochschule, die er im Rang eines Hauptmanns verließ. Er diente daraufhin in verschiedenen Stabspositionen, bevor er von August 1928 bis zum November 1930 als Militärattaché nach Polen und in die Sowjetunion geschickt wurde. Zurück in Japan folgte seine Beförderung zum Major und 1934 schließlich zum Oberstleutnant.