דיאלוג על שתי מערכות העולם המרכזיות
תגובת הכנסייה

בקיץ 1632, זמן קצר לאחר פרסומו ברומא, הצטברו תלונות רבות נגד הספר. הדבר הוביל להפסקת הדפסתו וחקירת גלילאו בהוראת האפיפיור אורבנוס השמיני, זאת למרות שהעניק לגלילאו בעבר את התואר "בן אהוב של האפיפיור". האפיפיור אף מינה ועדה מיוחדת של חשמנים שמטרתה לבחון האם יש צורך בחקירה של האינקוויזיציה בגין ההאשמות שהוטחו בגלילאו.
הוועדה המיוחדת קיימה חמש ישיבות ומסקנותיה המרכזיות היו:
בארכיון הכנסייה נמצא מסמך לא חתום שלפיו נאסר על גלילאו באופן אישי להגן על התאוריה הקופרניקאית וללמדה. את שני הדברים הללו, קבעה הוועדה, הוא עושה באופן ברור ביותר בספר.
גלילאו לא מילא באופן מספק את הוראות הצנזורה של הכנסייה - פתח הדבר שהוסיף גלילאו לספר נוסח בשונה מהוראות הצנזור, כמו כן המסקנה המסכמת לא הוצגה כנדרש. עוד קבעה הוועדה כי הטענות שהוצגו בפתח הדבר ובמסקנה מנותקות מהנאמר בשאר הספר.
גלילאו התייחס בספר לתאוריה הקופרניקאית כאמת פיזיקלית ולא כהיפותזה, ואף תמך בתנועת כדור הארץ, בסתירה לכתבי הקודש ולעמדת הכנסייה.
בעקבות דוח הוועדה המיוחדת, הועברה החקירה על ידי האפיפיור לאינקוויזיציה. היה ניסיון של דוכסות טוסקנה להביא לסיום הפרשה. גלילאו היה בן חסותו של הדוכס הגדול מטוסקנה לבית מדיצ'י ולו, כזכור, הקדיש את הספר "הדיאלוג". נדונה האפשרות לערוך את המשפט בפירנצה ולא ברומא אך למרות המאמצים ומצב בריאותו הלקוי של גלילאו בן ה-69, התעקשה הכנסייה על העמדתו לדין ברומא. האפיפיור, שנמנה בעבר עם תומכיו של גלילאו, ראה במעשיו פגיעה אישית ולא הקל בעניינו. בתחילת 1633 הגיע גליליי לרומא, שם השתכן בבית השגריר הטוסקני במעצר בית.
החקירה הראשונה הייתה ב-12 באפריל אותה השנה. חקירה זו התמקדה בעניין המסמך הטוען כי נאסר עליו ללמד את התאוריה הקופרניקאית. גלילאו הציג, להפתעת האינקוויזיטורים, מסמך חתום על ידי החשמן בלרמין המאשר שגליליי מכיר את האיסור הכללי, אך אינו מזכיר כל איסור ללמד את התאוריה. בנוסף טען גלילאו כי ב"דיאלוג" לא התכוון לאשש או להגן על התאוריה ההליוצנטרית. נקבעה הפסקה בחקירה ונוהלו מגעים מחוץ לבית המשפט. לבסוף הוחלט להאשימו בסעיף "קל" יותר, הגנה על התאוריה ההליוצנטרית בניגוד לצו המפורש של הכנסייה.
שלושה יועצים סברו כי הספר "הדיאלוג" מגן על התאוריה ההליוצנטרית ואף מתיימר להחזיק בה (דעה המקובלת כיום על רוב ההיסטוריונים). כשחוות הדעת של היועצים בידם, ביקשו נציגי האינקוויזיציה מגליליי לכפור באשמה, ולאחר מספר ימים כך עשה.
גליליי הצהיר כי קרא שוב את ספרו ולהפתעתו אכן ניכרת בו הגנה על התאוריה ההליוצנטרית. הוא טען שכוונתו הייתה להציג דיון משכנע וזאת עשה באמצעות חיזוק טיעונים שגויים, ועל כך הביע חרטה. בחקירה נוספת טען כי כוונותיו היו טהורות וכי לא דגל בתאוריה הקופרניקאית בעת כתיבת הספר. האפיפיור דרש להחרים את "דיאלוג", בנוסף להתכחשות פומבית של גליליי לתורה ההליוצנטרית.
ב-21 ביוני ניתן פסק הדין במשפט. על אף הכפירה באשמה של הגנה על התורה ההליוצנטרית, נקבע כי גליליי אשם ב"עבירה של ממש" בשל החזקה ואמונה בדוקטרינה שאינה נכונה הסותרת את כתבי הקודש; משתמע מהכתוב בספר כי השמש היא מרכז העולם ואינה נעה ממזרח למערב והארץ נעה ואינה מרכז העולם. גלילאו הואשם גם בהטעיית הצנזורים, בכך שלא דיווח על ההתייעצויות בהן לקח חלק. על פסק הדין חתמו שבעה מתוך עשרת השופטים.
גזר הדין היה חמור מהצפוי; גליליי נידון למאסר בלתי מוגבל בזמן ונתבע לכפור פומבית בתאוריה הקופרניקאית, וכן נאסר הפרסום של "דיאלוג". על פי מיתוס נפוץ, בסוף המשפט הכריז גליליי "ואף על פי כן נוע תנוע" (הכוונה לתנועת הארץ סביב השמש), אולם אין למיתוס זה עדות היסטורית. גליליי לא נלקח למאסר במרתפי האינקוויזיציה,  אלא שהה בבית השגריר הטוסקני ברומא עד לשלהי שנת 1633, ואז חזר לביתו בפירנצה, שם חי עד מותו במעצר בית תחת השגחה של קציני אינקוויזיציה.