בין השנים 1984 ל-1991 היה שויבלה חבר בקבינט של קאנצלר גרמניה הלמוט קוהל, תחילה כשר הפדרלי של גרמניה לעניינים מיוחדים ו-Chief of the Chancellery (ראש לשכת הקאנצלר - מזכיר בדרגת מזכיר המדינה או שר פדרלי), ולאחר מכן שר הפנים הפדרלי, האחראי על משרד הפנים. בין השנים 1991 ל-2000 כיהן שויבלה כיושב ראש קבוצת ה-CSU/CDU‏ (Christlich-Soziale Union in Bayern - האיחוד החברתי הנוצרי בבוואריה) בבונדסטאג ומ-1998 עד 2000 שימש בנוסף כיושב ראש המפלגה הנוצרית-דמוקרטית הגרמנית. בין השנים 2005 ל-2009 שימש שויבלה שוב כשר הפנים הגרמני, בקבינט הראשון של מרקל.