כתומך נלהב ברפורמה במימון הבחירות, מיאן מתיאס לקבל כל תרומה מעל 100 דולר אמריקני כדי "למנוע את קללת סכומי העתק שהובילו לכל כך הרבה בעיות בשנה האחרונה". עם זאת, הוא עדיין הצליח לגייס מעל ל-250 אלף דולר, כמעט פי חמישה ממיקולסקי. מבחינה אידאולוגית, מיקולסקי ומתיאס הסכימו על נושאים רבים, כגון סגירת פרצות מס ולהקל על מעמד הביניים בשילום מיסים. עם זאת, בשתי סוגיות טען מתיאס כי ינהיג את הקונגרס ואת מערכת המס של ארצות הברית לטפל באינפלציה ובתיקון המחירים של סחורות החברות, בניגוד למיקולסקי. בדיעבד, העיתון "וושינגטון פוסט" חש כי הבחירות היו "דיון אינטליגנטי בעניינים הארציים, הלאומיים וענייני החוץ על ידי שני אנשים חכמים ומודעים לעצמם".
מתיאס הפיק תועלת ממחלוקותיו התכופות עם ממשל ניקסון והיסטוריית ההצבעות הליברליות שלו. ב-5 בנובמבר 1974 הוא נבחר מחדש בשיעור תמיכה בן 57% לעומת 43% תמיכה להם זכתה מיקולסקי, אם כי הוא הפסיד קשות בעיר בולטימור ובמחוז בולטימור, שם הייתה מיקולסקי פופולרית יותר.
כהונה שנייה (1981-1975): אי-נוחות עם השמרנות הגוברת.
מתיאס הביע דאגה ממצב מפלגתו לקראת הבחירות לנשיאות ארצות הברית 1976, ובמיוחד מנטיית המפלגה ימינה. בהתייחסו להתמודדות המקדימה בין הנשיא ג'רלד פורד למושל קליפורניה רונלד רייגן, הוא סבר כי הנהגת המפלגה נמצאת "בבידוד נוסף, במצב קיצוני - כמעט בשוליים". ב-8 בנובמבר 1975 רמז מתיאס על כניסה אפשרית למירוץ הנשיאותי בבחירות המקדימות הרפובליקניות במטרה להרחיק את המפלגה מהמגמה השמרנית אליה נטתה. במהלך החודשים הבאים המשיך מתיאס לאותת הצטרפות לבחירות המקדימות, אך מעולם לא ניהל מסע בחירות רשמי או גייס לטובתו ארגון פוליטי או קבוצת אינטרס כלשהם.
לאחר ארבעה חודשים בהם שקל בכובד ראש את הכניסה למירוץ הנשיאותי, החליט מתיאס במרץ 1976 שלא להתמודד לנשיאות, וביקש למחוק את שמו מפתקי ההצבעה של הבחירות המקדימות הרפובליקניות במסצ'וסטס, שם שמו הוסף לפתקי ההצבעה אוטומטית. הוא שקל גם להתמודד באורח עצמאי לנשיאות, אך גיוס הכספים שהיה צפוי לו אמור היה להיות נוקשה תחת חוקי מימון בחירות. עם פרישתו, הוא טען שיעבוד עם המפלגה הרפובליקנית בבחירות הקרובות. עם זאת, למרות התחייבותו לתמוך במועמד הרפובליקני, הביקורת של מתיאס על המפלגה לא דעכה אלא גברה, ואמר: "שוב ושוב במהלך הפריימריז הרגשתי אי-נוחות כמו חבר במקהלה בטרגדיה יוונית".
האפשרות שמתיאס יצטרף למירוץ הנשיאותי האפילה על יחסיו העכורים בין כה וכה עם האגף השמרני של המפלגה הרפובליקנית במרילנד. ביוני 1976, הוא הפסיד את קולות הרפובליקנים במרילנד בהצבעה על זהות האיש שייקבע מי ייצג מרילנד בכינוס הוועדה הרפובליקנית הלאומית לקראת הבחירות לנשיאות 1976. במקום זאת, הקבוצה בחרה בג'ורג' פרייס, חבר שמרני בבית הנבחרים של מרילנד מטעם מחוז בולטימור. בשלב מסוים הוא היה קרוב למניעת השתתפותו בכינוס הוועדה הכללי, אך פשרה של הרגע האחרון הבטיחה לכל הנציגים הרפובליקנים בקונגרס של ארצות הברית לקחת חלק בכינוס הוועדה כנציגים על-כלליים. מתיאס שמר על פרופיל נמוך במהלך הוועידה, וספג ביקורת חריפה מצד הנציגים השמרנים ממרילנד.
בראשית מושב הקונגרס ה-95 שנערך בינואר 1977, עמד מתיאס בפני אפשרות שיתמנה לחבר הבכיר באחת מוועדות של הסנאט. עם זאת, הביקורת הבוטה של ​​מתיאס על המפלגה במערכת הבחירות הקודמת עוררה את חמת עמיתיו השמרנים לסיעה. בוועדת המשפט של הסנאט של ארצות הברית, מתיאס היה הוותיק ביותר בוועדה מלבד סטרום ת'ורמונד מקרוליינה הדרומית, שכבר היה החבר הבכיר בוועדת הכוחות המזוינים. לסנאטור מותר להיות חבר בכיר בוועדה אחת בלבד, כך שת'ורמונד התפטר מתפקידו בוועדת הכוחות המזוינים כדי לעקוף את מתיאס כחבר הבכיר בוועדת המשפט. כמו כן נמנעה ממתיאס אפשרות לקבל תפקידי הנהגה בוועדה לביטחון המולדת ועניינים ממשלתיים בעקבות מאבק כוחות, ובוועדת המשנה של ועדת המשפט לזכויות חוקתיות. בוועדת המשנה האחרונה, למתיאס היה ותק רב יותר מכל חבר אחר. עם זאת, מנהיגי המפלגה היו מודאגים מהרעיון שמתיאס יתחבר לקבוצה הליברל-דמוקרטית בוועדת המשנה וליושב ראשהּ בירץ' ביי, והוא נותר שוב ללא התפקיד המגיע לו.
בחירות 1980: מועמדות מחדש מאולצת.
לאחר שמצבו במפלגה הרפובליקנית הלך והחריף, הועלו השערות כי מתיאס יעזוב את המפלגה הרפובליקנית, במיוחד כאשר מועד בחירות 1980 התקרב. כמה מן השמרנים הבולטים במדינה, כמו חברי בית הנבחרים של ארצות הברית רוברט באומן ומרג'ורי הולט , שקלו לקרוא תיגר על מתיאס ולהתמודד נגדו בבחירות המקדימות. לעומת זאת, למפלגה הדמוקרטית היו מעט מתמודדים לסנאט בבחירות המקדימות, וגורמים דמוקרטיים העריכו כי אם מתיאס יחליף מפלגות — ינצח בקלות. עם זאת, מתיאס בחר להישאר רפובליקני, והתחבר עם שמונה סנאטורים רפובליקנים אחרים כדי להביע את אי שביעות רצונם מן האגף הקיצוני של המפלגה. מתיאס אמר מאוחר יותר כי הוא מעולם לא שקל ברצינות להחליף מפלגות.
כאשר הגיע הזמן למנות את חברי הוועידה הרפובליקנית הלאומית לשנת 1980, הרפובליקנים במרילנד הצביעו למתיאס ובאומן כיושבי ראש משותפים של המשלחת המרילנדית לייצוג את האגפים הליברליים והשמרנים של המפלגה, בהתאמה. בבחירות המקדימות ב-1980 לא הייתה התנגשות אידאולוגית חריפה שאפיינה את הוועידה הרפובליקנית הלאומית של 1976, שבה מתיאס מודר מפעילות המפלגה.
למרות חששות ראשוניים כי שמרני בולט יתמודד נגדו בבחירות המקדימות במפלגה הרפובליקנית למועמדות המפלגה לסנאט של ארצות הברית מטעם מרילנד, מתיאס לא עמד בפני התנגדות מרכזית על מושבו. הוא זכה בקלות למינויי מפלגתו, ונבחר מחדש למועמד הרפובליקני לסנאט מטעם מרילנד בנובמבר אותה השנה. יריבו הדמוקרטי בבחירות, אדוארד ט. קונרוי, מיקם את עצמו כיותר שמרני מאשר מתיאס. קונרוי גם בחר בביטחון הלאומי כנושא העיקרי של מסע הבחירות שלו, והאשים את מתיאס כ"חלש" בנושא זה. מתיאס טען כי הוא הצביע בעד מתן של יותר מ-1.1 טריליון דולר לתקציב הביטחון במהלך הקריירה שלו בסנאט. אחרי שזכה בבחירות הכלליות בפער של כשלושים אחוזים, מתיאס נהפך לרפובליקני הראשון שנבחר בפעם השלישית לסנאט מטעם מרילנד, וגם הרפובליקני היחיד שזכה בעיר בולטימור עד לזמן זה.
1987-1981: כהונה אחרונה.
לאחר שהרפובליקנים נטלו את השליטה בסנאט מידי הדמוקרטים ב-1981, ביקש מתיאס לשבת בראשות ועדת המשפט של הסנאט של ארצות הברית, אך הועבר לשבת בראשות ועדת הכללים של הסנאט באופן יומיומי. הוא מונה גם ליו"ר ועדת המשנה ליעילות הממשלה ומחוז קולומביה, והתמנה לחבר בוועדת החוץ של הסנאט של ארצות הברית, אם כי היה עליו להקריב את מושבו בוועדת ההקצבות עבור מושב בוועדת החוץ. ב-1982, מתיאס עמד בראש ועדת חקירה דו-מפלגתית של הסנאט בנוגע לשיטות בהן השתמש ה-FBI במבצע העוקץ Abscam. הוא כיהן גם כיו"ר עמית של הוועדה המשותפת של הקונגרס לענייני משרד ההדפסות הלאומי בשנים 1983-1981 ולאחר מכן בשנים 1987-1985, וכחבר הוועדה המשותפת לענייני ספריית הקונגרס בשנים 1983-1987.
לקראת הבחירות לסנאט ב-1986, לא היה ברור אם מתיאס יתמודד לתקופת כהונה רביעית. תמיכתו בנשיא רונלד רייגן הייתה פושרת, מה שהפריד בינו לבין האידאולוגיה הרווחת בקרב עמיתיו הרפובליקנים. היו שכינו אותו בוועידת המפלגה הרפובליקנית של מרילנד אף כינה אותו כ"חזיר הליברלי" בגלל דפוס והיסטוריית הצבעותיו בסנאט. נוסף על כך, הקשיים התכופים שלו בהשגת תפקיד יושב ראש ועדה בסנאט, יחד עם שיעור הנוכחות הנמוך שלו במליאת הסנאט, עוררו שאלות בנוגע ליכולתו להתמודד בפעם הרביעית. עם זאת, מתיאס הפגין סימנים של התמודדות מחדש ב-1985, ודחה את כל הטענות של חוסר יעילות. מתיאס טען כי "בתוך דקות ספורות אני יכול לדבר עם כל חבר בממשלה, ואני יכול ללכת לראות אותם תוך 24 שעות [...] אין הייתה זו תאונה כי עניין מפרץ צ'ספיק הוזכר בנאום מצב האומה של הנשיא. העניין היה כרוך בעבודה קשה".
במהלך כהונתו זו, שימש מתיאס בנוסף נשיא האספה הפרלמנטרית של ארגון האמנה הצפון אטלנטית בשנים 1985-1986.
למרות אינדיקציות ראשונות אחרות, הודיע ​​מתיאס ב-27 בספטמבר 1985 כי אין בכוונתו להתמודד לתקופת כהונה רביעית. ההודעה שלו הדאיגה גורמים במפלגה הרפובליקנית במרילנד, שחששו כי לרפובליקנים מקומיים במרילנד יהיו סיכויים מועטים להיבחר לסנאט בניגוד למתיאס. הודעת הפרישה שלו הגיעה זמן קצר אחרי הידיעה כי הסנאטור הרפובליקני פול לקסאלט יפרוש גם הוא מהחיים הפוליטיים. פרישת שני סנאטורים רפובליקנים ממדינות מתנדנדות או ממדינות כחולת הסתמנה אצל מנהיגי המפלגה הרפובליקנית כסימן גרוע לסיכויי המפלגה לנצח בבחירות הקרובות. לינדה צ'אבז זכתה בבחירות המקדימות הרפובליקניות למועמדות המפלגה לייצוג מרילנד בסנאט, והיא הפסידה בבחירות הכלליות ליריבתה הדמוקרטית ברברה מיקולסקי.
מתיאס נשאר פעיל בימיו האחרונים בסנאט כברווז צולע, ומילא תפקיד חשוב בהסרת הוראת עונש מוות בהצעת חוק בסנאט העוסק בשימוש בסמים משנת 1986 לאחר איום בפיליבסטר, ובהכנת הליכי הדחה נגד השופט הפדרלי הארי קלייבורן. היום האחרון של מתיאס בסנאט היה 3 בינואר 1987, ומיקולסקי הושבעה במקומו באותו היום.
בערוב ימיו ומורשתו.
מתיאס קיים מסיבת פרישה במרכז הכנסים בבולטימור ב-14 ביולי 1986, בה היו למעלה מ-1,200 משתתפים. ההכנסות מהאירוע, ב-150 דולר לאדם, שימשו להקמת תוכנית לימודים זרים באוניברסיטת ג'ונס הופקינס ללימודים בינלאומיים מתקדמים על שמו. מתיאס תכנן ללמד בג'ונס הופקינס לאחר יציאתו מהסנאט, מה שלא יצא אל הפועל.