עם פרוץ מלחמת העולם הראשונה באוגוסט 1914, מונה איוואנוב למפקד החזית הדרום-מערבית. איוואנוב פיקד על כוחותיו במהלך קרב גליציה ובמהלך מתקפת הקרפטים, אולם ספג תבוסה קשה במהלך מתקפת גורליצה-טרנוב, שהביאה לתחילת הנסיגה הגדולה של צבא האימפריה הרוסית. במרץ 1916 הוחלף איוואנוב על ידי אלכסיי ברוסילוב, ומונה לחבר המועצה המדינית ולשלישו של ניקולאי השני, קיסר רוסיה. במהלך תפקידו זכה לתמיכה גדולה של הצארינה אלכסנדרה פיודורובנה, שאף רצתה למנות אותו לתפקיד שר המלחמה.