В 1835 году Слободско-Украинская губерния была повторно упразднена и на её месте была создана Харьковская губерния, которая состояла из 11 уездов. В этом же году "Харьковская губерния" была присоединена к Малороссийскому генерал-губернаторству. Резиденция генерал-губернатора изначально находилась в Полтаве, а с 1837 года — в Харькове. Окончательно административное деление сформировалось к 1856 году, когда в состав губернии входило 13 уездов. Харьков являлся центром православной Харьковской епархии и Харьковского учебного округа, в нём были сосредоточены судебная власть для Харьковской, Курской, Воронежской, Орловской, Екатеринославской и Тамбовской губерний и в 1864—1888 управление Харьковского военного округа. Территория губернии не входила в «черту оседлости», но евреям было разрешено приезжать в Харьков на время ярмарок.