בתחילה ניסה הארכיבישוף גוידו להגיע להסכמה עם תנועת הפאטאריני, אך בעקבות מהומות בעיר, החליט בשנת 1070 להתפטר ושלח את טבעתו לקיסר היינריך הרביעי כדי שימצא לו מחליף. היינריך בחר בגודפרדוס לתפקיד, אך הפאטאריני בחרו במועמד אחר, אטו. אטו זכה לקבל את תמיכת האפיפיור אלכסנדר השני, בין השאר בעקבות תמיכתו של הילדברנד (לימים גרגוריוס השביעי), והאפיפיור אף החרים חמישה מיועציו של היינריך הרביעי בתואנה שהם ניסו להשתלט על בישופות מילאנו.
המאבקים בעיר לא שכחו, בשנת 1075 נרצח מנהיג תנועת הפאטאריני, ארלמבלד, במהלך מהומות בעיר, ורבים מתומכי התנועה גורשו מהעיר. היינריך ראה בכך הזדמנות ומינה לעיר בישוף חדש, תאדאלד, בלא להתחשב בדעתו של האפיפיור גרגוריוס השביעי, שתמך באטו, בישוף העיר מטעם הפאטאריני. הייתה זו יריית הפתיחה למאבק האינווסטיטורה גדול הממדים.
החרמות ההדדיים וההליכה לקנוסה.
בעקבות התערבותו של היינריך בבישופות מילאנו, שלח אליו האפיפיור צו תקיף ובו דרישה להתנתק מיועציו שהוחרמו על ידי אלכסנדר השני. בנוסף, גרגוריוס איים על היינריך שאם לא יפסיק את הפרת החוק הקנוני, הרי שהאפיפיור ידיח אותו. כדי להמחיש לו את כוונותיו השתמש גרגוריוס בתקדים המקראי של שאול המלך שאיבד את כתרו מכיוון שעבר על רצון האל.
היינריך, שב-1075 זכה לניצחון גדול על הסקסונים הרגיש בטוח בכוחו, וב- 24 בינואר 1076 כינס ועידה כנסייתית בוורמס בה השתתפו אנשי כנסייה רבים מגרמניה ואיטליה שהתנגדו לרפורמה הגרגוריאנית. לאחר הישיבה נשלח לאפיפיור מסמך, עליו היו חתומים יותר מ-20 אנשי כנסייה בכירים לרבות ארכיבישוף אחד (ממיינץ) ובישופים רבים, ובו דרישה מהאפיפיור להתפטר. הבישופים, בהשפעת הקיסר, האשימו את האפיפיור בעליה בלתי חוקית לשלטון (מכיוון שהם לא הכירו בהחלטות ועידת לטראנו ודרשו מעורבות של הקיסר במינוי האפיפיור), בפגיעה בסמכות הבישופים ובניהול חיי קרבה עם אישה (מדובר כנראה במטילדה רוזנת טוסקנה, שתמכה באפיפיור וברפורמה. לא נמצא יסוד ליחסים רומנטיים בין השניים). בעקבות האשמות אלו הכריזו אנשי הכנסייה שהם לא רואים את עצמם מחויבים יותר למרותו של גרגוריוס, ושהוא לא יכול לכהן יותר בתפקיד האפיפיור.
שבועות אחדים לאחר מכן כינס גרגוריוס ועידה כנסייתית והטיל חרם זמני על הקיסר. בנוסף, הכריז האפיפיור שהוסאלים של היינריך לא מחויבים יותר בנאמנות כלפיו והדיח אותו מכיסאו. גרגוריוס, ביודעו שהוא מבצע צעד חסר תקדים כתב מכתב שמיועד לפטרוס הקדוש ובו הסביר מניעיו בהטלת החרם. הטיעון העיקרי של האפיפיור הוא שהקיסר נהג בחוסר כבוד כלפי הכנסייה הקדושה, ולכן הוא לא ראוי לכבוד בעצמו. מבחינה חוקית הייתה הטלת החרם בעייתית, אמנם לפי התכתיב האפיפיורי האפיפיור יכול היה להדיח קיסרים, שכן הם הוכתרו בידי האפיפיור, אך היינריך לא הוכתר עדיין בהכתרה האימפריאלית. גם בכירי הכנסייה שהיו חתומים על המכתב מוועידת וורמס הותקפו על ידי האפיפיור - הוא נתן להם שהות עד ל-1 באוגוסט לחזור בהם, ולא, הם יודחו מתפקידם.
בעקבות החרם האפיפיורי ערך היינריך מעמד מלכותי מפואר ובו הדיח את האפיפיור מתפקידו, דבר שלא היה בסמכותו. הוא טען שאת כתרו הוא לא קיבל מהאפיפיור, אלא מהאל ישירות ולכן לאפיפיור אין סמכות לגביו. עלייתו של גרגוריוס לכס האפיפיור תואר כמסע של מרמה והמלך דרש מן האפיפיור לפנות את כיסאו.
בניגוד לקיסרים אחרים שהדיחו אפיפיורים (כמו היינריך השלישי למשל) ביצע היינריך הרביעי מהלך זה בפזיזות. לא היה לו כוח צבאי ברומא באותה עת שיכול היה לאכוף את הדחת האפיפיור והוא לא הכין את דעת הקהל למהלך כה דרמטי. ההפתעה וההתרעמות על מעשהו של הקיסר הביא למרד נגדו, בו נטלו חלק אצילים שונים בקיסרות שהתנגדו לו. האופוזיציה לשלטונו של היינריך עשתה יד אחת עם הסקסונים ששבו למרוד כנגד הקיסר. שליחי האפיפיור חיזקו את מעמד האופוזיציה בקיסרות הרומית הקדושה והיה חשש ממשי שהיינריך יאבד את שלטונו.
בסוף שנת 1076 הזמינו הסקסונים והאצילים שהתנגדו להיינריך את האפיפיור לגרמניה, כדי שישמש בורר בסכסוך בינם לבין הקיסר. גרגוריוס נענה להזמנה ויצא למסע לכיוון גרמניה. היינריך הבין שבואו של האפיפיור לגרמניה יכול לגרום לו לאבד את שלטונו וניסה להגיע להידברות עם האפיפיור. גרגוריוס דחה כל בקשה למשא ומתן עם הקיסר, אך בשל תלאות החורף עצר לחנייה זמנית בקנוסה, טירה בצפון איטליה שהייתה בבעלות מטילדה, דוכסית טוקסנה.
בשלב זה בחר היינריך ללכת לקנוסה תוך שהוא משפיל את עצמו כדי לזכות במחילת האפיפיור וביטול החרם, כך שיוסר האיום מעל שלטונו. הוא הגיע לקנוסה לבוש סחבות, כחוזר בתשובה, וחיכה מחוץ למבצר עד שהאפיפיור הואיל לפגוש אותו ב-25 בינואר 1077 ולהסיר מעליו את החרם. בפגישת האפיפיור והקיסר בקנוסה לא נדונה שאלת האינווסטיטורה כלל, פגישה זו הייתה בבחינת הפוגה זמנית במאבק בין האפיפיור לקיסר שעתיד להתחדש ביתר שאת. אולם המעשה של ההליכה לקנוסה הפך לסמל של כניעת הממסד החילוני ללא תנאי בפני הממסד הדתי.
התחדשות המאבק וכיבוש רומא.
ההליכה לקנוסה אמנם הייתה השפלה של הקיסר אל מול האפיפיור, אך היא גם יצרה סדקים במחנה המתנגד להיינריך. האצילים הגרמנים זעמו על מחילתו של האפיפיור לקיסר, שנעשתה בלא תיאום איתם, ובחרו לעצמם מלך חדש, רודולף משווביה, גיסו של היינריך. הסוגיה שעמדה על הפרק היא האם בסמכות הנסיכים לבחור את הקיסר, או שמא יש לשמור על העיקרון השושלתי. דבר זה הביא להתחדשות המאבקים בגרמניה, אך הפעם בלא תמיכתו המפורשת של האפיפיור. בשנת 1080 התקיימה במהלך חג הפסחא ועידה כנסייתית ברומא. היינריך הרביעי ורודולף משווביה ניצלו שניהם את ההזדמנות ושלחו נציגים אל האפיפיור כדי לשכנע אותו לתמוך בהם. האפיפיור נדרש עתה להתערב שוב באופן ישיר בסכסוך והוא בחר שוב להתייצב כנגד היינריך. במהלך הוועידה הכריז האפיפיור על הכתרתו של רודולף כמלך גרמניה ועל החרמתו החוזרת של היינריך. דבר זה הביא באופן טבעי להתחדשות המאבק בין האפיפיור לקיסר.
היינריך, בתגובה, הכריז שוב על הדחתו של גרגוריוס ב-13 במאי 1080 והכתיר במקומו את ארכיבישוף רוונה לשעבר, האנטי אפיפיור קלמנס השלישי. בתמיכתו של קלמנס, פלש היינריך לאיטליה ולאחר מאבק בן 4 שנים הגיע לרומא. גרגוריוס הזמין את הנורמנים לבוא לעזרתו, אך הללו, לאחר שהוכנסו לעיר רומא, בזזו ונטשו את העיר כשהם לוקחים איתם את גרגוריוס עצמו כפליט. היינריך הצליח להיכנס לרומא, להכתיר את קלמנס השלישי לאפיפיור באופן פורמלי ולזכות מידיו בהכתרה האימפריאלית. גרגוריוס נפטר שנה מאוחר יותר ב-25 במאי 1085 כשהוא מובס ומוקף קרדינלים בודדים בלבד. בשלב זה היה נראה שהמלוכה ניצחה את האפיפיורות, אך למעשה, הכוח של האפיפיור לאחר תקופת כהונתו של גרגוריוס השביעי היה גדול יותר מאשר לפניה. זאת מפני שגרגוריוס הוכיח את היותו גורם ראשון במעלה בפוליטיקה האירופאית והצהיר באופן חד משמעי על היומרות שלו להיות הסמכות העליונה באירופה הנוצרית. דבר זה בא לידי ביטוי כמה שנים מאוחר יותר, בהכרזתו של אורבנוס השני על מסע הצלב הראשון, בה הוכח כי בכוחו של האפיפיור להיות סמכות "על לאומית" שיכולה לארגן מסע צבאי כלל נוצרי בהיקף גדול.
המאבק בין היינריך החמישי לאפיפיורים בימיו.
המאבק בין פסקל השני להיינריך החמישי.
בשנת 1099 מינה היינריך הרביעי את בנו היינריך החמישי כאימפרטור שותף כדי להקל את העברת השלטון לאחר מותו. בשנת 1105 ביצע היינריך החמישי, בתמיכת האפיפיור פסקל השני הפיכה כנגד אביו והחל למשול באופן עצמאי. שנה מאוחר יותר נפטר היינריך הרביעי והיינריך החמישי ביקש עתה מפסקל להכתיר אותו בהכתרה האימפריאלית. פסקל התנה את ההכתרה בהסכמה של הקיסר כי האינווסטיטורה תהייה בסמכותו הבלעדית של האפיפיור. היינריך החמישי סירב לדרישה זו, ושוב התלהט הסכסוך בין האפיפיור למלך.
לאחר כמה שנות מלחמה בהונגריה, פולין ובוהמיה, ולאחר שהתחתן עם מתילדה הקיסרית ובכך כרת ברית עם אביה, הנרי הראשון, מלך אנגליה, פלש היינריך החמישי לאיטליה כדי לכפות על האפיפיור את הכתרתו לקיסר. כאשר חנה עם צבא גדול בסמוך לרומא, לא נותרה לאפיפיור ברירה אלא לשאת ולתת איתו. בתנאים שכאלו, הוסכם שהאינווסטיטורה תהיה בסמכות האפיפיור, אך בתמורה הבישופים יוותרו על כל שבדרך כלל קיבלו מחצר המלכות כגון: מחוזות, מטבעות, זכויות שוק, ערים, דוכסויות, מיסי דרכים ועוד. ב-12 בפברואר 1111 נערך טקס שבו היה היינריך אמור להיות מוכתר לקיסר האימפריה הרומית הקדושה. בתחילת הטקס הקריא פסקל את נוסח ההסכם שחתם עם היינריך החמישי, אך דבריו גרמו למהומה בקרב אנשי הכנסייה שלא היו מוכנים לספוג את המכה הכלכלית שהסכם זה אמור היה להנחית עליהם. המהומה גרמה לכך שלא היה ניתן להשלים את הטקס והיינריך החמישי הנעלב, יצא מרומא תוך שהוא לוקח בשבי את האפיפיור ואת כל הקרדינלים.
כעבור חודשיים בהם בילה במעצר מכובד של היינריך, נשבר האפיפיור והתיר לקיסר להמשיך לבצע את האינווסטיטורה במטה וטבעת. הוא גם הצהיר שהיינריך לעולם לא יוחרם על כך שלקח אותו בשבי. לאחר הסכמה זו שוחרר האפיפיור, אך אולץ לבצע את ההכתרה האימפריאלית ב-13 באפריל. לאחר ההכתרה היינריך עזב את רומא.