Здание Мужской Гимназии было построено в 1911—1913 гг. архитектором Константином Борисоглебским. Оно было названо именем Императора Александра III. Здание когда-то было вторым по величине учебным заведением после Бакинской Реальной Школы. После советской оккупации здесь функционировала Городская Больница № 4. В 2018 г. сооружение было выведено из-под контроля Минздрава в связи с перемещением Городской Больницы № 4. В настоящее время оно не используется.