Участва в Руско-японската война от 1904-1905 г. като командир на 3-та манджурска армия. Главнокомандващият генерала от пехотата Алексей Куропаткин го обвинява за поражението при Мукден. Това налага специално разследване от военен съвет, приключило с оневиняването на Александър Каулбарс. Назначен за комендант на Одеския военен окръг в разгара на Революцията в Русия от 1905 г. и подкрепя монархистите. Остава на длъжността до 1909 г.