21 февраля 1884 г. Розенбах был назначен Туркестанским генерал-губернатором и командующим войсками Туркестанского военного округа. На этом посту, как писал статс-секретарь А. А. Половцов, Розенбах, «человек благородный, прямой» «провёл много нововведений, оказавших несомненную пользу, а главное умел избежать военных усложнений, кои могли бы неоднократно перейти в войну». Одним из главных дел Розенбаха на посту Туркестанского генерал-губернатора было продолжение Закаспийской железной дороги до Самарканда и начало строительства участка до Ташкента. Также при Розенбахе началась разработка нефтяных месторождений в Ферганской долине и были упорядочены финансовые дела, пришедшие в значительное расстройство за время управления Туркестаном генералом Черняевым. Розенбах оказывал значительное покровительство многочисленным учёным экспедициям в Тянь-Шань и Памир и был горячим сторонником скорейшего занятия Памирской горной системы русскими постами.