Magdeburg erkebispedømmet ble opprettet av kong Otto I av Det tysk-romerske rike i 968 som et ledd i slavernes misjonering øst for Elben. Erkebispedømmet ble utskilt fra Halberstadt bispedømme. Som suffraganbispedømmer fikk det tildelt Brandenburg og Havelberg bispedømme, som tidligere lå under Mainz erkebispedømme, samt Meißen, Merseburg og Zeitz bispedømme, som ble opretta samtidig med Magdeburg. Kirkeprovinsens østgrense ble først bestemt da erkebiskopen av Gniezno opprettet et suffraganbispedømme i Lebus. Etter mye tautrekning lyktes erkebiskopen av Magdeburg i 1424 å få flyttet Lebus bispedømme til sin kirkeprovins.