I 1104 gjorde Henrik IV’s sønn og utpekte etterfølger Henrik V opprør og ble støttet av kirken og biskopene, mens Henrik IV hadde støtte blant aristokratiet i byene. Ved et angivelig forsoningsmøte i Koblenz ble Henrik IV tatt til fange. Det ble innkalt til riksdagsmøte i Mainz i desember 1104, og der ble Henrik IV fratatt sin krone og deretter holdt fengslet i slottet Waldböckelheim. Han måtte også tilstå at han hadde forfulgt pave Gregor VII ulovlig og at han ulovlig hadde innsatt Clement III til pave.