Se creó el 8 de octubre de 1802, después de división de la gobernación de Nueva Rusia en tres gubernias nuevas.