Konfliktene mellom pavedømmet og den tysk-romerske keisermakten fortsatte i de to påfølgende århundrene. Den mest framtredende konflikten kalles investiturstriden, en strid om hvem som skulle ha rett til å utnevne biskoper i keiserriket, paven eller keiseren. Keiser Henrik IVs Kanossagang i 1077 for å møte pave Gregor VII, har blitt stående som den viktigste enkeltstående hendelsen blant konfliktene. Konfliktene var forårsaket av forhold som hadde med keiserens økende kontroll over kirkelige anliggender. Pavevalgsordningen som hadde blitt innført i 1059 inkluderte den tysk-romerske keiseren i valgprosessen. Da pave Aleksander II døde i 1073, blei pavevalgsordningen ikke fulgt, i det folket i Roma støtta opp om munken Hildebrands kandidatur. Hildebrand, som tok navnet Gregor VII, var i stor grad reformvillig og ønska å tilbakeføre selvråderetten til kirka. Etter å ha blitt formant til lydighet mot paven, fikk Henrik IV under en synode i Worms i 1076 de tyske biskoper til å underskrive en lydighetserklæring mot keisermakten. I dokumentene som blei utarbeida under synoden blei pave Gregor VII nedlatende omtalt som Hildebrand, og det blei satt fram krav om at paven måtte gå av. Under en synode i Laterankirka samme år blei dokumentene lest opp, og paven reagerte umiddelbart med å bannlyse Henrik IV. Bannlysningen skulle bli permanent på dagen ett år etter, om ikke keiseren gjorde bot for seg og igjen var lojal mot pavedømmet. Etter å ha forsøkt å avsette keiseren ved å velge en ny keiser, greide ikke fyrstene å enes om en kandidat, og gav dermed Henrik IV et ultimatum: enten måtte han komme til enighet med paven i Roma, eller så ville han bli avsatt. Henrik IV og Gregor VII blei enige om et møte. Paven var ikke overbevist om at keiseren hadde gode hensikter, derfor endte han opp i festningen ved Canossa. Henrik IV gikk da sin kanossagang, angivelig barføtt ikledd enkle munkeklær. I det han kom til Canossa, skal han ha stått utenfor festningen i tre dager før paven ville slippe han inn. Syndsforlatelsen (absolusjon) han fikk og det at han tok imot nattverden, var tegn på en opphevelse av bannlysningen. Det skulle likevel ikke gå lang tid før keiseren brøt de botferdige løftene han hadde gitt paven.