Ved starten af 1. verdenskrig fik Ivanov kommandoen over den kejserlige russiske hærs styrker på Sydvestfronten med ansvar for en stor del af indsatsen i Galicien. Det lykkedes Ivanov at besejre østrig-ungarerne i slaget om Galicien i august 1914, og en måned senere trængte han østrig-ungarerne 150 km tilbagve til Karpaterne, omringe Przemyśl og tilføje fjenden et tab på 300.000 mand. For denne indsats blev han tildelt St. Georgsordenen af 2. klasse og Sankt Vladimirordenen (1. klasse med sværd).