Provinsen ble opprettet med utgangspunkt i hertugdømmene Slesvig og Holstein etter at disse ble erobret av Preussen og Østerrike fra Danmark under Andre slesvigske krig i 1864. Etter Den østerriksk-prøyssiske krig i 1866 ble Schleswig og Holstein annektert av Preussen etter det østerrikske nederlaget. Provinsen ble opprettet i 1868 og omfattet også Sachsen-Lauenburg.