עם זאת, טיבם המדויק של היחסים שבין האפיפיורים לקיסרים ובין מדינת האפיפיור לאימפריה נותר מעורפל. האם היה האפיפיור שליט ריבוני על מדינה במרכז איטליה? או שמא הייתה מדינת האפיפיור חלק מהאימפריה הפרנקית שעליו היו לאפיפיור סמכויות מנהליות בלבד? אירועים שהתרחשו במאה התשיעית דחו את העימות המתבקש: האימפריה הפרנקית התמוטטה כאשר חולקה בין נכדיו של קרל הגדול, ויוקרת האפיפיורות ירדה לשפל חסר תקדים שכונה שנים אחר־כך "שלטון־הזונות" (פורנוקרטיה) כאשר אישה בשם מארוציה הייתה פילגשו של האפיפיור סרגיוס השלישי, גרמה להוצאה להורג של האפיפיור יוחנן העשירי והביאה לבחירתו של בנה כאפיפיור יוחנן האחד עשר. גם האפיפיורים יוחנן השנים עשר, בנדיקטוס השביעי, בנדיקטוס השמיני, יוחנן התשעה-עשר ובנדיקטוס התשיעי היו מצאצאיה של מארוציה. בפועל לא היו האפיפיורים מסוגלים לכפות את מרותם על השטחים הנרחבים וההרריים של מדינת האפיפיור, והאזור שימר את שיטת הממשל של הלומברדים - חלוקה למחוזות קטנים רבים שבראשם עומד אציל מקומי והם מרוכזים מסביב למבצר.
המלך הגרמני אוטו הראשון כבש את צפון איטליה באמצע המאה ה-10 לאחר שורת קרבות, והאפיפיור יוחנן השנים עשר הכתיר אותו כקיסר (הראשון שהוכתר במשך למעלה מ-40 שנה). שניהם אישרו בחתימתם את ההסכם הקרוי "דיפלומה אוטוניאנום" (Diploma Ottonianum), שבו התחייב הקיסר הגרמני לכבד את ריבונות האפיפיור במדינת האפיפיור, אך גם נקבע בו כי הקיסר יהיה אחראי על מינוי האפיפיורים. עם זאת, במהלך מאתיים השנים הבאות היו מריבות מרובות על נושאים רבים בין האפיפיורים לבין הקיסרים, והשליטים הגרמנים התייחסו למדינת האפיפיור כאל חלק מממלכתם בכל עת שהשליטו את מרותם על איטליה. שטחה של מדינת האפיפיור הלך וקטן, ובאמצע המאה ה-11 היה שלטון האפיפיורים מוגבל לדוכסות רומא ולשטחים שסביבה בלבד. מאבק ממושך התנהל סביב האדמות שמטילדה רוזנת טוסקנה הורישה תחילה לאפיפיור (1108) ואחר כך לקיסר (1111) ובסופו של דבר מנעה התנגדותם של הקיסרים את התפשטות מדינת האפיפיור לשטחים בצפון איטליה.
לאחר עימותים שונים, נקבע בוועידה שהתכנסה בארמון הלטראנו ברומא בשנת 1059 שקיסר האימפריה הרומית הקדושה לא יהיה מעורב בבחירת האפיפיור. מניע עיקרי ברפורמה הגרגוריאנית היה הרצון להשתחרר מההתערבות הקיסרית בניהול מדינת האפיפיור. לאחר ששושלת הוהנשטאופן באה לקיצה, קטנה עד מאוד התערבותם של הקיסרים הגרמנים בענייני איטליה. בתחילת המאה ה-14 היו מדינת האפיפיור וגם שאר הנסיכויות האיטלקיות עצמאיות בפועל.
השליטה במחוזות מדינת האפיפיור שמחוץ לאזור "נחלת פטרוס הקדוש" (רומא וסביבותיה) התחלקה בין שלושה גורמים עיקריים:
המנהל האפיפיורי ניסה כל העת להתחזק על חשבון הגורמים האחרים. כך למשל ניטלה מידי כמה מהקומונות הזכות למנות ראש עיר, זכות החקיקה והשיפוט.
הרנסאנס.
שטחי מדינת האפיפיור התרחבו בצורה ניכרת במהלך תקופת הרנסאנס, במיוחד בתקופתם של האפיפיורים אלכסנדר השישי ויוליוס השני. האפיפיור הפך לאחד השליטים החשובים ביותר באיטליה. בנוסף להיותו ראש הכנסייה, הוא עמד בראש צבא שלחם בשליטים שכנים וכרת עמם בריתות. עם זאת, השלטון האמיתי על רוב שטחה של מדינת האפיפיור היה נתון בידיהם של נסיכים מקומיים. האפיפיורים נאבקו על השליטה בלא הרף ורק במאה ה-16 עלה בידי האפיפיור להשליט מרות של ממש על כל שטחי מדינתו.
בתחילת המאה ה-14 החל סכסוך בין מלך צרפת פיליפ היפה לבין האפיפיור בוניפקיוס השמיני. הסכסוך עסק בתשלומי מיסים של אנשי כמורה למלך בצרפת. תוצאות הסכסוך היו שבספטמבר 1303 פרצו שליחי המלך לטירת האפיפיור באנייני הסמוכה לרומא וניסו לאסור אותו. הניסיון אמנם נכשל, אבל האפיפיור מת חודש אחר כך, כנראה כתוצאה ממכות שספג בניסיון המאסר. האפיפיור שנבחר אחריו, בנדיקטוס האחד עשר, מת תשעה חודשים לאחר בחירתו, והאפיפיור החדש שבא במקומו, קלמנס החמישי, נבחר בחסות פיליפ היפה ומקום מושבו נקבע בעיר אביניון שבצרפת. בתקופה שבין 1309 עד 1378 ישבו האפיפיורים בעיר זו. תקופה זו נקראת גם "גלות בבל של האפיפיור" והיא מסמלת את ירידת כוחה של הכנסייה בראשות האפיפיור אל מול כוחו של המלך. בתקופה זו נוספה העיר אביניון עצמה והשטחים שסביבה למדינת האפיפיור. היא נותרה רכושו של האפיפיור גם אחרי שהאפיפיורים חזרו לרומא וחזרה לרשות צרפת רק במהפכה הצרפתית. גם בתקופה זו, שכונתה מאוחר יותר "גלות אביניון", נותרה מדינת האפיפיור רשמית תחת שליטת האפיפיור. למעשה התערער לחלוטין שלטונו של האפיפיור בשטחים אלה ורוב הערים במדינת האפיפיור היו תחת שלטונן בפועל של משפחות "סיניורים" (רודנים). בעיר רומא עצמה שררה אנרכיה ונציג האפיפיור (ה"לגאט") לא הצליח להשליט בעיר מרות.
את השינוי חולל הקרדינל הספרדי חיל דה אלבורנוס (Gil Álvarez Carrillo de Albornoz) שנשלח על ידי האפיפיור אינוקנטיוס השישי כלגאט לרומא. אלבורנוס השתמש באמצעים כספיים שקיבל מהאפיפיור ובהפעלת כוח באמצעות צבא שכירי חרב וכפה על הסיניורים לקבל את מרות האפיפיור. הם הוכרו כ"ממלאי מקום אפוסטוליים" (vicari apostolici), תואר שאיפשר להם המשך שליטה אבל היה כרוך בתשלום מס שנתי לאפיפיור, בהתחייבות לשירות צבאי והיה מוגבל ל-10 שנים. אלבורנוס היה אחראי לשכלול וייעול המנהל האפיפיורי במדינה והוא גם יזם את אוסף החוקים של מדינת האפיפיור - הקודקס "Constitutiones Agegidianae" - ששימש כבסיס לחוק במדינת האפיפיור עד 1816.
הצלחתו של אלבורנוס הייתה זמנית. הנסיכויות והרפובליקות העצמאיות האחרות באיטליה חששו מכוחה הגובר של מדינת האפיפיור. שליטי פירנצה עודדו מרידות של הערים בתחומי מדינת האפיפיור ואחר־כך נקלעו למלחמה ישירות מול מדינת האפיפיור - מלחמת שמונת הקדושים (1375-1378). משהסתיימה המלחמה התחולל הקרע המערבי ("הקרע הגדול" 1378-1417, שבמהלכו כיהנו במקביל במשך כ-40 שנה שני אפיפיורים, איטלקי וצרפתי) והאנרכיה חזרה למדינת האפיפיור. בסיום התקופה נבחר מרטינוס החמישי כאפיפיור (1417-1431) והוא הצליח לחדש את המונרכיה האפיפיורית. המדינה חולקה ל-7 יחידות שלטון טריטוריאליות: על הגדולות שבהן שלטו לגאטים ועל הקטנות יותר שלטו רקטורים. במשך המאה ה-15 עברו על מדינת האפיפיור זעזועים שנבעו ממרידות פנימיות בהם החלו אישים שאימצו את הרעיונות החדשים של הרנסאנס. הם קראו לשחרור מהרודנות האפיפיורית וכן יצאו נגד הנפוטיזם (העדפת בני המשפחה) בחלוקת רכוש הכנסייה ומשרות כנסייתיות, השיטה בה נקטו האפיפיורים של תקופה זו. סיבה נוספת לזעזועים במדינת האפיפיור היו המאבקים בין הספרדים לצרפתים על השליטה באיטליה, שהיו כרוכים במסעות כיבוש של צבאות זרים על אדמת איטליה.
בתקופת שלטונו של אלכסנדר השישי התפוררה מדינת האפיפיור לקבוצת מדינות זעירות בשליטת קרוביו של האפיפיור ממשפחת בורג'ה. בנו של אלכסנדר, צֶ'זַרֶה בּוֹרְג'ה, השתלט על מחוז רומאניה והפך אותו לדוכסות בשלטונו. משם יצא למסעות כיבוש במטרה להפוך את מדינת האפיפיור לממלכת מרכז איטליה, אולם עם מותו של אלכסנדר השישי ב-1504, חזר המצב לקדמותו.
יורשו של אלכסנדר, האפיפיור יוליוס השני, החל בשורת מסעות כיבוש שהחזירה למדינת האפיפיור שטחים שהיו בבעלותה בעבר ואף הרחיבה אותה. הוא כבש את פרוג'ה ובולוניה, הצטרף לברית קמבריי ואילץ את ונציה להחזיר את רוונה, צ'רוויה, פאאנצה ורימיני. אחר־כך ארגן יוליוס את "הליגה הקדושה" על מנת לסלק את הצרפתים מאיטליה. בתחילה ניצחו הצרפתים את חיל הליגה ברוונה ב-1512, אבל בהמשך אותה שנה כבשו שכירי החרב השווייצרים מצבא האפיפיור את מילאנו מידי הצרפתים שהחזיקו בה משנת 1500 והעלו לשלטון בעיר את הדוכס מסימיליאנו ספורצה, בן למשפחה ששלטה בעיר מ-1450. תמורת הסיוע שהגיש יוליוס לספורצה הוא צירף למדינת האפיפיור את פארמה ופיאצ'נזה שהיו שייכות לדוכסות מילאנו. הערים רג'ו אמיליה ומודנה שהיו שייכות לדוכסות פרארה נלקחו אף הן, אך יורשו של יוליוס, האפיפיור לאו העשירי, נאלץ להחזירן לדוכס ב-1515.
מדיניות החוץ של האפיפיור שכיהן אחריהם, קלמנס השביעי, המיטה אסון על רומא. קלמנס תמך בצרפת וחיילותיו של מלך ספרד קרל החמישי, אויבה של צרפת, פלשו למדינת האפיפיור ובזזו אותה. רומא עצמה נכבשה ב-6 במאי 1527 ובמשך 8 ימים בזזו חייליו של קארל (שלא קיבלו שכר) את העיר, מאורע המכונה "Sacco di Roma". האפיפיור עצמו הוחזק בשבי במצודת סנט אנג'לו שברומא עד 6 בדצמבר. ב-1529 חתם האפיפיור על חוזה שלום עם הקיסר בברצלונה וקיבל בחזרה את השליטה על אדמותיו. החוזה אושרר בכינוס בולוניה ב-24 באפריל 1530 בטקס שבו קיבל קרל החמישי כתר קיסרי מקלמנס השביעי.
בהמשך המאה ה-16 עדיין התנהלה מדינת האפיפיור כמדינה עצמאית בנושאי חוץ, אלא שהחלטה של האפיפיור פאולוס הרביעי לכרות שוב ברית עם הצרפתים כנגד הספרדים הובילה לכישלון צבאי נוסף (1555) שבעטיו חדלה מדינת האפיפיור להופיע בזירה הבינלאומית כגורם מדיני עצמאי. הפעילות הצבאית האחרונה של מדינת האפיפיור הייתה במסגרת הברית שארגן האפיפיור כנגד האימפריה העות'מאנית. קרב לפנטו (1570), שבו ניצחו הציים המאוחדים של ספרד, ונציה והאפיפיור את הצי הטורקי, היה הפעם האחרונה שבה הופיעה מדינת האפיפיור ככוח צבאי. מכאן ואילך שלט האפיפיור בחסות המעצמות, תחילה ספרד ואחר־כך צרפת ואוסטריה.
השלטון במדינת האפיפיור היה אבסולוטי כמקובל במדינות אחרות באירופה. האפיפיור שלט במדינה במישרין באמצעות שליחיו הלגאטים (מושלי המחוזות) ונעזר בראש לשכת האפיפיור, ובמוסדות הקוריה הרומאית.