İnönü syntyi Izmirissa kurdilaiseen perheeseen. Suku on alun perin Malatyasta, Itä-Turkista. Hänen isänsä oli Osmanien valtakunnan virkamies ja äitinsä Turkin–Venäjän sodan pakolaisia Bulgariasta. Isän ammatin vuoksi perhe muutti usein kaupungista toiseen. İsmet İnönü suoritti opintonsa Sivasissa. Hän valmistui sotilasakatemiasta 1903. Osmanien armeijassa hän kukisti kapinoita Rumeliassa ja Jemenissä. Balkanin sodan aikana hän palveli Bulgarian vastaisella rintamalla. Ensimmäisen maailmansodan aikana hän palveli Itä-Syyriassa ja myöhemmin länsirintaman komentajana. Hän työskenteli myös Mustafa Kemal Paššan kanssa Kaukasian rintamalla.