С 3 сентября 1914 года — Главнокомандующий армиями Северо-Западного Фронта. Под его командованием войска фронта сражались в Варшавско-Ивангородской, Лодзинской (во время которой, несмотря на достигнутый успех 1-й и 10-й армий Рузский отдал приказ об отступлении, из-за чего попавшая в окружение группа германских войск генерала смогла выйти из окружения) и Августовской операциях (в последней именно его действия стали причиной катастрофы 10-й армии). Как военачальник имел привычку обвинять подчиненных в своих неудачах, в частности добился отстранения командующих армиями — П. К. Ренненкампфа и С. М. Шейдемана на Седлецком совещании Ставки, тем самым оправдывая свой приказ о свертывании наступления войск его фронта. Однако деятельностью данных генералов не безосновательно выражало недовольство военное командование Ставки и военный министр. 13 марта 1915 года Рузский заболел и покинул фронт, сдав командование генералу М. В. Алексееву.