אינוקאי נולד למשפחת סמוראים בעיר האגי שבנחלת נאגטו (כיום מחוז ימאגוצ'י). הוא סיים את לימודיו באקדמיה הצבאית הקיסרית ובמכללת הלוחמה ב-1892, ושירת בצבא יפן במלחמת סין–יפן הראשונה.