Etter slutten på den kinesisk-japansk krigen, studerte Hayashi ved den keiserlige japanske militærskolen, og derfra tok han eksamen i juni 1897. I 1903 ble han uteksaminert fra Hærens stabsskole. Hayashi første store kommando var mellom 1918 og 1920 da han satt som sjef for det 57. infanteri-regimentet, etterfulgt av en periode i 1921 der han var knyttet til hovedkvarteret for teknisk-militær forskning før han ble utnevnt til fungerende militærinspektør.