С началом Первой мировой войны, в августе 1914 года был назначен комендантом Ивангородской крепости, осенью 1914 года успешно руководил её обороной от германских и австро-венгерских войск (противник не смог взять крепость, а после контрнаступления русских войск был вынужден отступить), после чего Шварц был произведён в генерал-майоры и награждён Георгиевским оружием.