Suhomlinov osallistui Venäjän–Turkin sotaan 1877–1878 ratsuväen upseerina ja toimi vuosina 1886–1897 Pietarissa upseerien ratsuväkikoulun johtajana. Hän oli 1900–1904 Kiovan sotilaspiirin esikuntapäällikkönä ja 1904–1905 komentajana sekä 1905–1908 Kiovan kenraalikuvernöörinä. Hänet ylennettiin 1906 ratsuväenkenraaliksi. Suhomlinov nimitettiin marraskuussa 1908 Venäjän yleisesikunnan päälliköksi, mistä hän siirtyi maaliskuussa 1909 sotaministeriksi. Maailmansotaa edeltäneinä vuosina hän yritti pääosin huonolla menestyksellä ajanmukaistaa Venäjän armeijan strategisia valmiuksia, sillä armeija nojasi liiaksi ratsuväkeen hyökkäyksissä ja linnoituksiin puolustuksessa. Vaikka duuma hyväksyi Suhomlinovin esityksen sotilasmenojen lisäämisestä, hän ajautui erimielisyyksiin monien upseerien ja varsinkin suuriruhtinas Nikolai Nikolajevitšin kanssa. Suhomlinov ei kyennyt hallitsemaan tilannetta, ja Venäjän armeija joutui lopulta maailmansotaan varsin valmistautumattomana. Heinäkuun kriisin aikana vuonna 1914 hän vakuutti keisari Nikolai II:lle armeijan olevan valmis taisteluun, mutta jo liikekannallepanon yhteydessä ilmeni ongelmia. Suhomlinov ehdotti silti Venäjän joukkojen jakamista samanaikaisesti Saksaa ja Itävalta-Unkaria vastaan.