Magdeburg mainittiin ensimmäisen kerran vuonna 805, jolloin se oli pieni kaupankäynnin keskus. Noin vuonna 937 Otto I Suuri perusti sinne benediktiiniluostarin. Vaikka Magdeburg paloi vuonna 1188, siitä kehittyi 1200-luvulla kaupankäynnin keskus. Se kuului Hansaliittoon, ja oli yksi sen tärkeimmistä jäsenistä. Keskiajalla Magdeburg oli Euroopan merkittävimpiä kaupunkeja. Kolmikymmenvuotisen sodan aikana 20. toukokuuta 1631 tapahtui Magdeburgin ryöstö, kun Johann Tillyn johtamat katoliset tappoivat suuren osan kaupunkilaisista. Samalla lähes koko kaupunki paloi. 1656 kaupungissa suoritettiin kuuluisa Magdeburgin puolipallojen tyhjiödemonstraatio. Toisessa maailmansodassa liittoutuneiden pommitukset vaurioittivat kaupunkia pahoin tuhoten esimerkiksi Magdeburgin kaupungintalon.