Kirken ble oppført mellom 1010 og 1020 under biskop Berwald på et symmetrisk plan med to apsider som var karakteristisk for den ottonianske romanske arkitekturen i Stamhertugdømmet Sachsen. Etter renoveringer og utvidelser i det ellevte, tolvte og fjortende århundret ble kirken fullstendig ødelagt i et luftangrep 22. mars 1945. Kirken ble gjenoppbygget fra 1950 til 1960. Michaelkirken er fra 1985 sammen med Hildesheimerdomen på UNESCOs liste over verdens kulturarv.