Tidligere var Rhinland den prøyssiske provinsen Rhinland. Den ble opprettet i 1822, som en sammenslåing av to allerede eksisterende prøyssiske provinser, det tidligere hertugdømmet Jülich-Kleve-Berg og storhertugdømmet Niederrhein. Etter første verdenskrig ble Saarland skilt ut av Rhinland og plassert under fransk administrasjon. Samtidig ble deler av Rhinland overtatt av Belgia.