ב-26 במאי 2009 הועבר גומז לבאיירן מינכן תמורת 30 מיליון אירו, סכום ההעברה הגבוה ביותר בתולדות הבונדסליגה. בעונתו הראשונה בבאיירן, 2009/10, סבל גומז מקשיי התאקלמות מסוימים, אך כבש 10 שערים, זכה עם הקבוצה בדאבל מקומי, והגיע עמה לגמר ליגת האלופות 2010, בו הפסידה באיירן 2-0 לאינטר מילאנו. גומז נכנס בגמר זה כמחליף בדקה ה-74. בעונתו השנייה בקבוצה, 2010/11, היה גומז מלך השערים של הבונדסליגה כאשר הבקיע 28 שערים בליגה. הייתה זו עונה חלשה עבור באיירן מינכן, שהודחה כבר בשמינית גמר ליגת האלופות על ידי אינטר מילאנו, ולא זכתה בתארים מקומיים. בעונת 2011/12 גומז המשיך להציג יכולת גבוהה והבקיע 26 שערי ליגה, אך שוב באיירן מינכן נשארה בידיים ריקות בליגה. לעומת זאת, הגיעה באיירן מינכן לגמר ליגת האלופות 2012, בו הפסידה הקבוצה לצ'לסי בבעיטות הכרעה, לאחר 1-1 בתום 120 דקות. גומז היטיב לשחק בגמר זה והבקיע את הפנדל שלו, אך ללא הועיל. בדרך אל הגמר, גומז הבקיע בשלב הבתים צמד מול מנצ'סטר סיטי ושלושער מול נאפולי, ובשמינית הגמר הבקיע רביעייה בניצחון 7-0 על פ.צ. בזל. בנוסף למספר שערים נוספים, הבקיע גומז שער ניצחון מול ריאל מדריד באליאנץ ארנה בדקה ה-90, שהקנה לבאיירן מינכן ניצחון 2-1. ריאל מדריד ניצחה בתוצאה זהה בגומלין, בו באיירן מינכן ניצחה לבסוף בפנדלים, ולאחר מכן הפסידה בגמר כאמור לצ'לסי. עונת 2012/13 הייתה העונה האחרונה של גומז בבאיירן מינכן. בעונה זו זכתה הקבוצה בטרבל היסטורי. למרות זאת, פחתה משמעותית כמות ההופעות של מריו גומז, עקב הגעתו של מריו מנדז'וקיץ' לקבוצה, והתאמתו לשיטת הלחץ שאפיינה את המאמן יופ היינקס. למרות זאת, גומז הבקיע 11 שערי ליגה ושישה שערים בגביע הגרמני, ואף הבקיע את השער השני בניצחון הגדול של באיירן 4-0 על ברצלונה בחצי גמר ליגת האלופות, בו שיחק משום שמנדז'וקיץ' גרר כרטיסים צהובים. בגמר ליגת האלופות 2013, גומז פתח על הספסל, והחליף את מנדז'וקיץ' בדקה ה-94, לאחר שבאיירן הובילה 2-1 על בורוסיה דורטמונד, וניצחה לבסוף בתוצאה זו. בתום העונה, נמכר גומז לפיורנטינה האיטלקית תמורת 20 מיליון אירו, לאחר שהבין כי לא צפוי לקבל דקות רבות יותר תחת המאמן החדש של הקבוצה, פפ גווארדיולה.