FC Bayern München kiinnostui Mandžukićista hänen pelattuaan hyvin Puolan ja Ukrainan EM-kilpailuissa. 27. kesäkuuta 2012 Mandžukić siirtyi müncheniläisseuraan 13 miljoonan euron siirtosummalla. Münchenissä Mandžukić voitti heti ensimmäisellä kaudellaan Mestarien liigan, Bundesliigan, Saksan cupin sekä DFL-Supercupin. Hän teki Mestarien liigan loppuottelun ensimmäisen maalin. Seuraavalla kaudella Bayern München uusi Bundesliigan ja Saksan cupin voitot, mutta hävisi Mestarien liigan välierissä Real Madridille. Lisäksi Mandžukić oli voittamassa UEFA Super Cupia ja seurajoukkueiden maailmanmestaruutta. Kahden Bayern-kautensa aikana hän viimeisteli 33 maalia pelaamissaan 54 bundesliigaottelussa.