נולד בחיפה לאלימלך והינדה מצגר. בוגר ישיבת בני עקיבא פרחי אהרון בקריית שמואל. למד בישיבת ההסדר כרם ביבנה במשך אחת-עשרה שנים, במהלכן הוסמך לרבנות והחל בלימודי דיינות.
שירת בצה"ל בחטיבה 7 של חיל השריון כתותחן טנק בגדוד "עֹז 77", תחת פיקודו של אביגדור קהלני. במלחמת יום הכיפורים נטל חלק בקרבות הבלימה בצפון רמת הגולן כנגד התקפות הצבא הסורי. בהמשך עבר לשרת כרב צבאי והגיע לדרגת קצונה של סרן.
מונה לרב בית הכנסת "תפארת צבי" במרכז תל אביב והגדיר את עצמו "רב צפון תל אביב". בתקופה זו היה עורך חופות מבוקש, בעיקר בקרב תושבי תל אביב.
בשנת 1988 כתב יחד עם עו"ד נחום לנגנטל, לימים ח"כ מטעם המפד"ל, את הספר "במעגלי החיים", העוסק במעגלי השנה והחיים היהודיים. כמו כן הוא פרסם סדרת ספרי שאלות ותשובות בשם "מים ההלכה" ו"כנפי יונה". ספר השו"ת "מים ההלכה" זיכה אותו בפרס הרב טולידאנו לספרות תורנית לשנת תשמ"ט. כן פרסם שו"ת בעניינים הקשורים למלחמת המפרץ הראשונה בשם "סופה במדבר". בתשובותיו הוא מסתמך בעיקר על מקורות תשובות של רבנים שקדמו לו, לעיתים ללא מתן קרדיט נאות. בהקדמתו לספריו מזכיר הרב מצגר את המשל על הדבורה המלקטת צוף מאחרים, אך עמלה מועיל יותר מאשר עמל העכביש, הטווה קוריו בעצמו.
חיים אישיים.
נשוי לעפרה ואב לשישה ילדים. אשתו היא בת אברהם שלמה פרידמן, מבעלי הוצאת א. לוין אפשטיין, ונינת הרב יוסף חיים זוננפלד. שלוש אחיותיה נשואות לישראל וורצל, לנתן גרוסמן ולרב דוד דב לבנון אב בית הדין הרבני באשקלון. לימדה שנים רבות באולפנית בני עקיבא תל אביב.
אחד מחתניו, הרב אברהם גאופטמן, הוא רב קהילה בשכונת הר חומה, דיין בבית הדין הרבני בבאר שבע וראש כולל לדיינות בישיבת מרכז הרב.
פעילותו כרב ראשי.
ב-2001 נבחר לראשונה למשרה במישור הארצי, חבר מועצת הרבנות הראשית.
בשנת 2003, בגיל 49, נבחר לתפקיד הרב הראשי האשכנזי לישראל כמועמדם של החרדים ובתמיכת הרב יוסף שלום אלישיב, על פני הרב יעקב אריאל והרב שלמה דיכובסקי. אישי ציבור דתיים טענו שהרב אלישיב תמך ברב הצעיר והבלתי בולט מבחינה תורנית, כדי לפגוע במעמד הרבנות הראשית. מקורבים לרב אלישיב אמרו שהוא עשה זאת כדי לטרפד את היתר המכירה ומשום שלא עלה אז על הפרק מועמד מתאים יותר לדעתו. ייתכן שסייעה לו גם עובדת היותו גיסו של נתי גרוסמן. נסיבות בחירתו עוררו תרעומת אצל רבים בציבור הדתי לאומי. לאחר הרשעתו חזרו עיתונאים דתיים והפנו אצבע מאשימה כלפי העסקנות החרדית שהובילה לבחירתו על פני הרב אריאל.
כשרות.
במהלך כהונתו כרב ראשי הנהיג מספר חידושים בתחום הכשרות, בהם:
מעמד האישה וחברה מעורבת.
לאחר שצוערי קורס קצינים נענשו על שיצאו מאירוע שבו הופיעה זמרת צבאית, מתוקף האיסור להאזין לשירת אישה, פרסם הרב מצגר מאמר הלכתי בעניין. לדבריו, יש לכבד את זכותם של החיילים הדתיים להימנע משמיעת קול שירת אישה, על ידי הסתפקות בשירת חיילים גברים, או מתן היתר לחיילים המעוניינים בכך להיעדר מהופעת הזמרות, מבלי לפגוע בכבודן.
לצד הראשון לציון הרב שלמה עמאר, התנגד הרב מצגר לדרישה שהועלתה לאפשר קווי מהדרין בתחבורה הציבורית בין ריכוזי אוכלוסייה חרדית, שבהם מחויבת הפרדה במקומות הישיבה בין גברים לנשים. לדבריו, המעוניינים להחמיר יכולים להקים חברת אוטובוסים מיוחדת לצורך כך, אך אינם יכולים להורות לזולת כיצד לנהוג בחברת אוטובוסים ציבורית.
ביושבו כאב בית הדין הרבני הגדול החמיר הרב מצגר את הענישה הקיימת לסרבני גט העומדים בסירובם. בית הדין דחה את ערעורו של סרבן גט שישב עשר שנים במאסר, וקבע כי סירובו של הבעל לגרש את אשתו מצדיק את המשך מאסרו עקב בזיון בית הדין האזורי שהורה לו לגרש את אשתו, ככל שיידרש.
בעקבות מקרים שבהם מנעו נציגי חברה קדישא מנשים לשאת הספד על יקיריהן שנפטרו פרסם הרב מצגר פסיקה הלכתית שלפיה אמנם אין מקור הלכתי לאסור על אישה לשאת הספד, והסמכות להכריע בנושא נתונה בידי הפוסקים שבהם מתייעצת החברה קדישא המקומית. השר לשירותי דת יעקב מרגי הסתמך על פסיקה זו בחוזר מנכ"ל המתיר הספד נשים, הליכת נשים אחר הנפטר והלוויות מעורבות של נשים וגברים, כל עוד רצון המשפחה בכך, ומבהיר כי חידוש רישיון הקבורה עשוי להיות מותנה בפעולה לאור הנחיות אלה.
שיח בין-דתי.
הרב מצגר פעל לעידוד מגעים בין דתות. בפרט הציע להקים ארגון אומות מאוחדות דתי בירושלים, בהשתתפות נציגי הדתות השונות ובראשות הדלאי לאמה. לדבריו, "במקום להתכונן למלחמה גרעינית ולרכוש טנקים ומטוסי קרב, ארגון זה ישקיע בשלום (...) מנהיגים דתיים יוכלו לפגוש זה את זה ולגלות שיש להם יותר במשותף מכפי שסברו". רעיון זה זכה לתמיכתם של הדלאי לאמה ובכירים באירופה ובעולם המוסלמי. כמו כן הביע תמיכה נלהבת בכנס בין-דתי שיזם עבדאללה מלך ערב הסעודית בשנת 2008.
בדצמבר 2009 ביקר בכפר יאסוף, בעקבות הצתת מסגד בכפר וריסוס כתובות נאצה עליו. תחת אבטחה בלעדית של המשטרה הפלסטינית הביע הרב את סלידתו ממעשה ההצתה והזכיר את רגישות העם היהודי לפגיעה במקומות תפילה, בפרט בעקבות ליל הבדולח. נוכח איומים לפגוע בתגובה בבתי כנסת במדינות מוסלמיות הוסיף הרב כי הוא "יכול לקוות שאם חס וחלילה יקרה דבר כזה מהצד השני, גם המוסלמים יביעו סלידה".
בביקור רשמי באתר הזיכרון לרצח העם הארמני בירוואן ובמוזיאון הסמוך לו, השתמש הרב בביטוי רצח עם (genocide) שממנו נמנעת ישראל הרשמית, ואמר כי "אין אומה שיכולה להבין את כאב הארמנים טוב מן היהודים".
דאגה לשבויים.
הרב מצגר ביקר את יונתן פולארד פעמיים בכלאו בתקופת כהונתו כרב ראשי. הוא שיגר מכתבים לפני חגים לגורמים שונים בממשל האמריקני במטרה להביא לשחרורו וקרא לכך בכמה מדרשותיו. בפגישותיו עם מנהיגים דתיים ומנהיגי מדינות ביקש מהם לפעול לשחרורו של גלעד שליט. הרב מצגר הצטרף לקריאת מגילת איכה בתשעה באב באוהל המחאה של משפחת שליט, ונשא שם תפילה לשחרורו המהיר. הוא התבטא נגד יוזמת חמישים רבנים לפסול את העסקה לשחרור שליט ממניעים הלכתיים. לדבריו, "כל עוד לא מונחת לפתחו של רב או פוסק מלוא האינפורמציה, כולל דו"חות צה"ל וגופי המודיעין, אין אפשרות לקבוע עמדה הלכתית נחרצת, ובוודאי שאין לפסוק הלכה על סמך פרסומים בתקשורת הערבית".
מעורבות בתחומים נוספים.
בהשפעת הרב מצגר הושב לידיים יהודיות בית הכנסת של רבי ישראל איסרלן במריבור שבסלובניה, שהוסב לכנסייה. חציו הפך לבית כנסת וחציו למוזיאון. הוא פעל גם למען השבת בית הכנסת העתיק של בודפשט לידיים יהודיות.
בדברים שנשא בהלווייתם של חמשת הנרצחים בפיגוע באיתמר אמר הרב מצגר: "כתשובה לפיגוע יש להפוך את איתמר לעיר ואם בישראל".
פרשות ציבוריות ופליליות.
בשנת 1998 שללה ממנו מועצת הרבנות הראשית את תעודת הכושר לרב עיר בשל חשדות לעברות על ההלכה והחוק שהועלו נגדו. לפי התלונות, חתם מצגר שלא כדין על כתובות, גבה כספים על עריכת חופות ועוד. לבירור התלונות הוקמה ועדה של שלושה רבנים בראשות הרב הראשי, הרב אליהו בקשי דורון, שהחליטה להפסיק את החקירה ולהחזיר לו את תעודת הכושר לרב העיר, בתמורה לכך שיסיר את מועמדותו למשרת רב העיר תל אביב. מנגד טען הרב מצגר כי רבנים רבים גובים כספים על עריכת חופות וכי החקירה נועדה לסכל את מועמדותו לתפקיד רב העיר.
הבחירות לתפקיד הרב הראשי לישראל בשנת 2003 נודעו כסוערות במיוחד. על תפקיד הרב האשכנזי התמודדו הרב מצגר, הרב שלמה דיכובסקי והרב יעקב אריאל, כשמעליהם מרחפת ההצעה לאחד את תפקידי הרבנים הראשיים האשכנזי והספרדי. בין היתר נתמכה מועמדותו של הרב מצגר על ידי הרב יוסף שלום אלישיב, נציגי מפלגת העבודה, נציגי מפלגת הליכוד וחלק מנציגי המפד"ל לגוף הבוחר לרבנים הראשיים. הרב רא"ם הכהן וגיסו הרב אהרון הראל הביעו מחאה על מינויו של הרב מצגר.
בפברואר 2005 נחקר הרב מצגר באזהרה בדבר חדר מלון שקיבל בתעריף מוזל. בסיום החקירה המליצה המשטרה להעמידו לדין בעבירות מרמה והפרת אמונים. בעקבות זאת הודיע הרב מצגר כי הוא משעה עצמו זמנית מבית הדין הרבני הגדול ומהוועדה לבחירת דיינים. באפריל 2006 הודיע מני מזוז, היועץ המשפטי לממשלה, כי לא ייפתח תיק פלילי נגד הרב מצגר, אך ביקר בחריפות את מעשיו, קבע ששיקר בחקירותיו במשטרה והודיע כי עליו להתפטר מרצונו או שמזוז ימליץ על הליכי הדחה מידיים נגדו.
בתגובה עתר הרב מצגר לבג"ץ כנגד מזוז בטענה שלא ניתנה לו זכות השימוע. במהלך הדיונים הסכים היועץ המשפטי למחוק חלקים מן הדו"ח, אולם הרב מצגר לא הסתפק בכך. בסופו של דבר ביולי 2007 דחה בג"ץ את העתירה, לאור הקביעה כי דו"ח היועץ המשפטי איננו אמירה סופית בעניינו של הרב הראשי. בפברואר 2008 החליטה הוועדה לבחירת דיינים לדחות את חוות דעתו של מזוז ולאפשר לרב מצגר לחזור לכהן כדיין. לאחר ההחלטה אישרה הכנסת תיקון לחוק הרבנות הראשית לישראל, שלפיו לא יהיה הרב מצגר חייב לכהן כראש בתי הדין הרבניים. בפברואר 2009 דחו שופטי בג"ץ את עתירתה של עמותת אומ"ץ למנוע מהרב מצגר מלשמש כדיין בבית הדין הרבני הגדול. השופט אדמונד לוי סבר בדעת יחיד כי היועץ המשפטי לממשלה היה צריך להעמיד את הרב מצגר לדין משמעתי.
בשנת 2008 פרסמו קלמן ליבסקינד ובועז גאון תחקיר שלפיו הרב מצגר הרבה לטוס לחו"ל במחלקה הראשונה, ובתמורה תומך בעמדתם של שלוחי חב"ד ובמינויים לתפקידי רבני עיר וארצות. אנשי חב"ד הגיבו וטענו שהרב מצגר עושה בכך את תפקידו.