לפני התרגיל המסריח, כשעמדה על הפרק השאלה האם מפלגת "דגל התורה" תתמוך במועמדותו של שמעון פרס לתפקיד ראש הממשלה, נישאו עיני העולם אל הרב שך, שאמור היה לנאום בכנס של דגל התורה בהיכל הספורט יד אליהו בתל אביב. הרב שך לא התייחס ישירות בנאומו לשאלת ההצטרפות לממשלה, אלא בחר להרצות על עיקרי ההשקפה היהודית, ולתקוף את השמאל על ניתוק הקשר ממסורת האבות. נאומו של הרב שך נכנס ללקסיקון הישראלי כ"נאום השפנים והחזירים".
בין השאר אמר הרב שך:
נאומו של הרב שך שודר בשידור חי בכמה כלי תקשורת. בעקבות התבטאויותיו פרץ פולמוס. גורמים חילוניים טענו שהרב שך מציג את החילונים הישראלים באופן שטחי. יתד נאמן פרסם את תגובת הרב שך לדברי הביקורת: "אני אוהב אותם. כולם בניי, וחשוב שילדיי ישמעו מה אני אומר להם ועליהם, והם אכן שמעו".
ערוב ימיו.
בשנותיו האחרונות הייתה בריאותו של הרב שך רופפת ועקב חולשתו התנתק בהדרגה, החל מ-1996, מעניינים ציבוריים ופוליטיים. בשבע השנים האחרונות בחייו חרג משתיקתו, בנושאים ציבוריים-כלליים, רק פעמיים. היה זה כאשר הורה על תמיכה במפלגת יהדות התורה ובבנימין נתניהו בבחירה ישירה בשנת 1996, וכן בשנת 1998 כאשר התעורר חשש שבג"ץ יורה על גיוס בני הישיבות לצה"ל, פורסם בשמו איסור להתגייס (ראו להלן).
עוד בחייו, אחרי שהפסיק את מעורבותו במישור הציבורי, השתתפו רבנים נוספים בהנהגת הציבור הליטאי. ליורשיו בהנהגה נחשבים הרב יוסף שלום אלישיב והרב אהרן יהודה לייב שטיינמן.
פטירתו והנצחתו.
הרב שך נפטר בליל יום שישי ט"ז בחשוון תשס"ב (2 בנובמבר 2001). הלוויה נערכה ביום שישי, ולמרות היום הקצר השתתפו בה יותר ממאה אלף איש, שהגיעו החל משעות הלילה מישראל ומהעולם.
הרב שך נטמן בחלקה מיוחדת שקודשה ביום קבורתו, בבית הקברות של נציבי ישיבת פוניבז' בבני ברק. על קברו הוקם אוהל והוא משמש מוקד לעלייה לרגל. בערבי ראש חודש נערכות במקום תפילות קבועות ששיאן בתפילת יום כיפור קטן המונית. ביום השנה לפטירתו ישנה עלייה המונית של תלמידיו ומעריציו.
לאחר פטירתו הונצח שמו במקומות שונים והוקמו מוסדות תורה לזכרו. שמו של רחוב הרצל בבני ברק שונה בקטע שבין רחוב רבי עקיבא לרחוב ז'בוטינסקי ל"רחוב הרב שך". רחובות נקראו על שמו גם בערים מודיעין עילית, ביתר עילית וטבריה. שכונת "רמת בית שמש ג'1" קרויה על שם ספרו - "קריית אבי עזרי". כן נקראה על שמו שכונה ברמת שלמה שבירושלים.
בכמה יישובים הוקמו בתי כנסת לזכרו תחת הכינוי "אבי עזרי" (שם ספרו של הרב שך), בהם מודיעין עילית, תל ציון, אופקים ופתח תקווה. בפריז הוקמה "ישיבת אבי עזרי", ישיבה קטנה במסגרת מוסדות יד מרדכי. כולל אברכים באותו שם הוקם באלעד. במודיעין עילית הוקם בית ספר לבנות בית יעקב אבי עזרי. ישיבת "אבי עזרי" הוקמה גם בבואנוס איירס.
כמו כן, התפרסמו ספרים רבים אודותיו, המכילים בעיקר סיפורים ושמועות. ספר ביוגרפי מפורט יצא על ידי בני משפחתו, בשם "מרן הרב שך".
מאבקיו בנושאים השקפתיים ותורניים.
הרב שך בהנהגתו הציבורית ראה עצמו כשומר מסורת התורה והישיבות. הוא יצא נגד תופעות וגופים אשר ראה בהם פרצה או סטייה ממסורת זו.
הרבי מלובביץ' ותנועת חב"ד.
הרב שך יצא נגד רבים מחידושיו ותקנותיו של הרב מנחם מנדל שניאורסון, הרבי מלובביץ', בהם: תקנתו שכל אישה ובת ידליקו נרות שבת בברכה, הנחת תפילין בחוצות קריה, תהלוכות ל"ג בעומר, פעילות בעניין שבע מצוות בני נח לגויים, מסלול לימוד הרמב"ם היומי ועוד. ויכוח מאפיין נרשם ביניהם על הגישה לחוק מיהו יהודי בו ראה הרבי מלובביץ' עיקר גדול, בעוד בעיני הרב שך היה החוק פרט שולי בחוק השבות. באופן כללי הייתה גישתו שעל עם ישראל לרכז את מאמציו במסגרת קיום התורה והמצוות האישיים ולא במבצעים עתירי הד תקשורתי כפי שראה את מבצעי חב"ד, וטען שהגישה של קיום המבצעים הללו מגיעה מחכמות חיצוניות ולא מהתורה.
המאבק פרץ לכותרות בשנות השמונים, כאשר הרב שך גינה את מלחמת שלום הגליל, והרבי מלובביץ' ביקר אותו כנכנע לאומות העולם. בתגובה פרסם הרב שך את דעתו כי ביטול השינה בסוכה אצל חסידי חב"ד היא עקירת דבר מן התורה. כאשר פתחה חסידות חב"ד בקמפיין המשיחי שלה, ראה בכך הרב שך כפירה באמונה בביאת המשיח ונזעק נגדה. התנגדותו הייתה כפולה: הוא טען כי הרבי מלובביץ' הוא משיח שקר וכי הדגש שנותנת חב"ד על הצורך והביטחון בביאת המשיח עתה עומדים בסתירה לדברי הנביא חבקוק "אם יתמהמה חכה לו כי בא יבא".
הרב שך התבטא פעמים רבות נגד הרבי מלובביץ' וחסידיו. הוא קרא לחסידי חב"ד "הכת הידוע" ודרש לא להתחשב בהם. בתגובה תקפו אותו חסידי חב"ד בביטאון כפר חב"ד. האדמו"ר מגור הרב שמחה בונים אלתר ניסה לתווך בין הצדדים. מנגד הדגיש הרב שך כי המאבק ברבי מלובביץ' אינו אישי-פרסונלי (אף שבכנס בהיכל התרבות כינה אותו "כופר", ואת חב"ד "כפירה ומינות") ואף התפלל לרפואתו בימי מחלתו. את פעולתו האחרונה נימק גם בצורך למנוע משבר אמונה ממאמיניו. במכתב המופנה לראשי הישיבות הליטאיות בשנת 1983 כתב "כאשר כת הידוע אשר מלפנים הייתה נחשבת לאחת משיטות החסידות עם גדולי תורה ויראה והליכתם הייתה על פי דרכם כפי שקיבלו מרבותיהם.. אולם לדאבוננו הרב סטתה כת זו מדרך הישרה והרבו לדבר גבוה גבוה, דברים אשר אין לשמוע ואסור לשמוע, ועקרו את ה-"אני מאמין" המקודש לנו, בתבנית אדם בן תמותה".
המאבק בחב"ד הוסיף שמן ליחסים העכורים בין החסידים והליטאים בשנות השמונים. חסידי חב"ד טענו כי מאבקו של הרב שך איננו מיוחד נגד חב"ד אלא נגד החסידות כולה. הרב שך הכחיש זאת נמרצות ואמר: "אני מרים את ידי לשמיים, שאף פעם לא עלתה על דעתי, ולא על דעת אף אחד, לעורר המחלוקת של חסידים ומתנגדים". כמו כן, הדגיש את משרתו בשנות השלושים בישיבת קרלין ואת יחסו החם לתלמידים חסידיים שלמדו בישיבותיו. הוא צירף למועצת גדולי התורה של דגל התורה את האדמו"ר מבעלז.
בפברואר 1986 החריף העימות, לאחר פטירתו של הרב יעקב לנדא, רב העיר בני ברק. הרב לנדא היה מחסידי חב"ד אך נמנע מלהתייחס בגלוי לסוגיית המשיחיות והיה בעל תדמית ציבורית נייטרלית. בצוואתו ביקש הרב לנדא למנות את בנו, הרב משה יהודא ליב לנדא, כיורשו. הרב לנדא הבן היה חסיד חב"ד מוצהר ור"מ בישיבת תומכי תמימים בכפר חב"ד. ראש העיר משה אירנשטיין הכריז על מינויו של הרב לנדא הבן לרב העיר במהלך לוייתו של האב, למרות התנגדות הליטאים בראשות הרב שך, שדרשו לקיים בחירות לרבנות העיר. הרב שך התייחס לנושא (תוך אזכור המקווה שבנה הרב לנדא בשיטת בור על גבי בור) בעצרת במהלך הבחירות לראשות עיריית בני ברק, שבהן הציגה דגל התורה לראשונה מועמד משלה לתפקיד, והכריז כי הליטאים אינם מכירים בסמכותו של הרב החדש שאף לא מונה רשמית בסופו של דבר. במקביל, הורה לרב חיים שאול קרליץ, להקים מערכת קהילתית נפרדת, שתכלול בית דין, מינוי רבני שכונות, מערכת כשרות, רישום נישואין ועוד. מערכת זו, "שארית ישראל", קיימת עד היום.
הסכסוך עם חב"ד היה אחד הגורמים לפרישת הליטאים מ"אגודת ישראל", לאחר שהעיתון "המודיע" השייך למפלגה סירב להימנע מלפרסם את פעילות חסידי חב"ד, כפי שדרש הרב שך.
מאבקים ציבוריים נוספים.
בשנת תשל"ב יצא בכרוז נגד הקמת 'מדרשה גבוהה לתורה' מטעם מכון הרי פישל להכשרת רבנים. הוא ראה בזה שינוי ממתכונת הכולל, שתכליתו לימוד לשם לימוד. לכרוז הצטרפו הרבנים יעקב ישראל קניבסקי, חיים שמואלביץ ומשה חברוני.
בשנות ה-70 כאשר החלה לחלחל התופעה שבנות בוגרות סמינרים של בית יעקב המשיכו את לימודיהן במכללה לבנות בירושלים יצא הרב שך נגד המכללה. הוא פרסם איגרת לבוגרות בית יעקב ובה יצא בחריפות נגד לימודים אקדמיים לבנות הכוללים תכנים ושיטות לימוד המנוגדים למסורת בית יעקב. הוא פנה אל הבוגרות: "תשמרו את נפשותיכן ותתחזקו בדרך ובהשקפה שקיבלתן בבתי ספר בית יעקב, תיטהרו ותתקדשו להיות אמהות של הדור הבא". הוא אסר על תלמידיו להינשא לבנות שלמדו במכללה. עם זאת, בירך ועודד מוסד על תיכוני שקיים לימודי מחשבים והנהלת חשבונות מאחר שאין במקצוע ההוראה משרות לכולן. כמו כן, במענה לשואל כתב: "אבל כמובן שבנות שאם לא ישתלמו בהמכללה, ילכו להמקומות שהם יותר גרועים, ודאי שיש להשתדל שישתלמו בהמכללה".
הרב שך ראה את הישיבות כמרכז הרוחני של עם ישראל, והתנגד לכל שינוי וסטייה מהמתכונת שהייתה מקובלת בישיבות ליטא. הוא התנגד בנחרצות לישיבות תיכוניות. מאבקו עלה מדרגה כאשר החלו לקום ישיבות תיכוניות חרדיות ובראשן מערבא, והוא פרסם מכתב נגד הישיבה. בשנת תשל"ח, כאשר נודע לו שבאנטוורפן עומדת לקום ישיבה תיכונית, פרסם איגרת לתושבי העיר ובה כתב כי "צריכים לעשות כל המאמצים לבטל דבר זה, בייחוד שברוך ה' יש ישיבה באנטוורפן ובוודאי נתמעטו התלמידים בישיבה, שהישיבה התיכונית הוא דבר המושך בפרט לצעירים שחושבים שהעתיד שלהם יהיה יותר טוב כשיהיה להם תעודת בגרות. והאמת שזה טעות".
הרב שך ראה בתלמוד המבואר של הרב עדין שטיינזלץ שינוי מדרך הלימוד המקובלת. הוא טען כי על ידי הלימוד של התלמוד המבואר "סר כל זיק של קדושה ואמונה", והדבר יביא לשכחת התלמוד. בנוסף, הוא טען כי הרב שטיינזלץ שילב בביאורו תכנים וביטויים המציגים את הדמויות המקראיות ואת חכמי התלמוד במושגים בני זמננו.
הרב שך יצא נגד השבועונים החרדיים שהחלו לצאת במגזר החרדי. בשנים ה'תשל"ח-ה'תש"מ יצא לאור שבועון עצמאי בשם "צופר", בעריכת חיים שאולזון. הקו הפתוח והעצמאי של העיתון הביא את הרב יעקב ישראל קניבסקי לצאת במכתב ציבורי נגד העיתון שעליו חתמו גם הרב שך ורבנים נוספים.