По итогам боёв в Восточной Пруссии Жилинский 3 сентября 1914 года был снят с должности Главнокомандующего армиями и переведен в распоряжение военного министра. В 1915—1916 годах представлял русское командование в Союзном совете во Франции. В сентябре 1916 года отозван в Россию. Нового назначения не получил, состоял в распоряжении военного министра. 19 сентября 1917 года уволен со службы с мундиром и пенсией. После Октябрьской революции пытался выехать за границу, но был арестован в Крыму и расстрелян.