שמיר התנגד בחריפות לכינוסה של ועידת מדריד, בשל חששותיו מלחץ בינלאומי על ישראל (כפי שהיה בוועידת ז'נבה לאחר מלחמת יום הכיפורים), אך הוא נאלץ לוותר בנקודה זו, ולהצטרף אל הוועידה, לקול מחאות אנשי הימין. הוועידה, שאליה הגיע שמיר כשהוא מלווה באנשי ימין מובהקים מן הליכוד כעוזי לנדאו ובנימין נתניהו, כללה בעיקר נאומים טקסיים, שכללו אף חילופי מהלומות מילוליות (הנציג הסורי פארוק א-שרע קרא לשמיר "טרוריסט", וזה הגיב כי נאום הסורי הוא נאום "גבלס"), אך בסופה סוכם כי תיפתחנה בדצמבר שיחות דו-צדדיות בוושינגטון. במהלך דיוני הוועידה התגלע ויכוח על הפרוצדורה בין הישראלים והפלסטינים: בעוד שהפלסטינים דרשו להציג עצמם כמשלחת נפרדת (בניגוד לסיכום המוקדם), ישראל התנגדה לכך. "שיחות מסדרון" הביאו לבסוף לפתרון הבעיה. על אף ששיחות אלו, שהתקיימו בוושינגטון בין משלחת ישראלית בראשותו של אליקים רובינשטיין ובין משלחת ירדנית-פלסטינית, לא הביאו להתקדמות של ממש, ראו אנשי הימין את מדינת ישראל כמתקדמת בדרך מסוכנת, וכמחאה על קיומן של השיחות פרשו "מולדת" ו"התחיה" מממשלת שמיר בינואר 1992, זאת לאחר ש"צומת" פרשה עוד קודם לכן, עקב חילוקי דעות בנושא החוק לבחירה ישירה של ראש הממשלה. פרישה זו הביאה להקדמת הבחירות.
קליטת העלייה (1991).
במהלך ההתמודדות המדינית היה על שמיר להתמודד עם קליטת העלייה. נפילת מסך הברזל הביאה לגל עלייה גדול מברית המועצות, וישראל, בראשות שמיר, עשתה ככל יכולתה על מנת לספק דיור ותעסוקה למאות אלפי העולים. הקליטה הייתה קשה; אתרי קראוונים הוקמו על מנת לספק דיור זמני לעולים, רבים מהם אקדמאים שלא מצאו דרך להשתלב במקצועם בארץ. חלק מן האתרים הפכו למקבילה של המעברות משנות החמישים – מוקדים לאבטלה, מצוקה ופשע. עם זאת רבים נקלטו היטב ומצאו דיור ותעסוקה בארצם החדשה. ב־25 במאי 1991 נערך "מבצע שלמה", שבו הוטסו לארץ ארבעה עשר אלף מיהודי אתיופיה, לאחר שהגיעו ידיעות על מצבם הקשה ועל הסכנה לחייהם עקב אי היציבות הפוליטית במדינתם.
בקליטת גל עלייה זה נקטה ישראל מדיניות שונה לחלוטין מזו שהייתה נהוגה עד אז. במקום קליטה "מדורגת" דרך מנגנוני הקליטה, קיבלו העולים דמי קליטה, ולאחר מכן עודדו אותם לנסות ולהיקלט בכוחות עצמם. יש הסבורים שדרך הקליטה הזו הייתה המוצלחת ביותר, ואפשרה לישראל לקלוט תוספת של כעשרים אחוז למספר התושבים באופן מוצלח יותר מזה שבו נקלטו עליות קודמות.
הבחירות לכנסת ה-13 (1992).
עם זאת, ככל שהתקרבו הבחירות, הפך מצבו של הליכוד ומצבו של שמיר לקשה יותר. תופעה חדשה של פיגועי סכינאות גרמה לערעור תחושת הביטחון האישי. לאחר רצח הנערה הלנה ראפ בבת ים ב־24 במאי 1992 יצאו לרחובות אלפי אנשים בהפגנות מחאה ספונטניות. נראה כי שמיר אובד עצות אל מול גל פיגועים זה, כאשר עקב תדמיתו הביטחונית של יצחק רבין, מועמד מפלגת העבודה לראשות הממשלה, נראה היה כי הוא האיש שבידו להביא לשינוי, אם בדרך ביטחונית, ואם בקידומו של משא ומתן מדיני. נראה כי לאווירה זו היה חלק ניכר בתוצאה הסופית של בחירות אלו.
שורה של פרשיות שחיתות שנחשפו אצל מקורבים לשלטון ולמפלגות הקואליציה (אם כי לא אצל שמיר באופן אישי), כמו גם התנהלותם המושחתת של חלק מן הפוליטיקאים במהלך המשא ומתן הקואליציוני (כך, למשל, הביאה דרישתו של יצחק מודעי לערבות בת עשרה מיליון דולר לכך שאם יצביע בעד הממשלה ימונה לשר האוצר, לשפל חדש ביחס הציבור אל הפוליטיקה), הביאו להצבעה על שינוי שיטת הממשל, אך השיטה החדשה נועדה להיכנס לתוקף החל מן הבחירות לכנסת הארבע עשרה בשנת 1996. הציבור, המזועזע אף מדו"ח חמור של מבקר המדינה, שחשף מינויים פוליטיים, התנהגות ראוותנית וגירעונות תקציביים, החל להשתמש בססמה "מושחתים – נמאסתם!".
הבחירות לכנסת השלוש עשרה עמדו בסימן משברים קשים בליכוד. אל מול מחנה "שמיר-ארנס" (ההנחה הייתה כי לאחר פרישתו של שמיר, בן ה-76 ביום הבחירות, יהיה משה ארנס, שר הביטחון, ליורשו) עמד מחנהו של דוד לוי. בבחירות המקדימות, שנערכו בפברואר 1992, הצטרף מחנהו של אריאל שרון אל מחנה שמיר-ארנס, ונראה כי תבוסת מחנה לוי תהיה שלמה.
לוי ביטא את תחושותיו הקשות ב"נאום הקופים", שבו טען כי הוא מופלה בשל מוצאו המזרחי, וטען כי בעיני חברי הליכוד (שמיר, ארנס ושרון הם ממוצא אשכנזי) היה "כקוף שזה עתה ירד מן העצים". את הוועידה עזב על מנת להסתגר בביתו בבית שאן, ומשם שיגר איומים בפרישה, אך לבסוף לא פרש והתמודד מטעם הליכוד בבחירות.
בסופו של דבר נכשל שמיר בבחירות, ומפלגת העבודה (יחד עם מרצ והמפלגות הערביות) יצרו "גוש חוסם" כנגד אפשרות הקמתה של ממשלת הליכוד. גוש זה אפשר למפלגת העבודה, בראשותו של יצחק רבין, להקים ממשלת שמאל ביחד עם מפלגת ש"ס, כשהליכוד נותר באופוזיציה, ולהוביל מדיניות של משא ומתן ופשרה טריטוריאלית, המנוגדת לחלוטין לחזונו של שמיר.
בכנסת ה-13 (1992–1996).
עוד בליל הבחירות הודיע שמיר על פרישתו מהנהגת הליכוד במילים "אני בסוף דרכי האישית והפוליטית". עם זאת לא התפטר מהכנסת, ונותר חבר הכנסת עד סוף כהונת הכנסת השלוש עשרה בשנת 1996. את מקומו בהנהגת הליכוד ירש בנימין נתניהו במרץ 1993, לאחר פריימריז בהם התמודד נתניהו מול בני בגין ודוד לוי.
בעת כהונת הכנסת השלוש עשרה היה שמיר זקן חברי הכנסת לאחר פרישתו של יאיר שפרינצק לקראת הבחירות. בפתיחתה של הכנסת השתים עשרה, על מנת להתחמק מלכהן כזקן הכנסת טען שפרינצק כי הגיל המופיע ברישומי הכנסת שגוי, וכי הוא בן 66 בלבד ולא בן 76. בעקבות זאת הנחה היועץ המשפטי להעביר את המינוי הזמני לידיו של יצחק שמיר. בירור נוסף העלה כי אכן שפרינצק הוא "זקן חברי הכנסת". במסגרת תפקיד זה ב-1992 שמיר ניהל את הישיבה הראשונה של הכנסת אף על פי שהיה באותה העת חבר הממשלה ועמד בראשה (הבחירות התקיימו ב-23 ביוני, ממשלת ישראל העשרים וחמש בראשות יצחק רבין הושבעה ב-13 ביולי).
שמיר התנגד נחרצות להסכמי אוסלו ואף התעמת עם סגן שר החוץ, יוסי ביילין בריאיון על כך. בעניין הסכם השלום בין ישראל לירדן שנחתם ב-1994, שמיר אמר בכנסת כי יתרונותיו עולים על חסרונותיו וכי הוא תומך בהסכם, וטען כי אין כל דמיון בין ההסכם שבוצע במשא ומתן ישיר לבין ההצעה של הסכם לונדון מ-1987, שלפיה הייתה קמה ועידה בינלאומית. עוד הוסיף:
לאחר הפרישה (1996–2012).
בעשור שאחרי פרישתו מראשות הממשלה ניהל חיים שקטים בתל אביב, והופיע בתקשורת מפעם לפעם כדי להביע אכזבה מרה מכל ממשיכיו בראשות הממשלה, בהיותם ותרניים מדי לטעמו; במיוחד באשר לבנימין נתניהו, שאותו כינה "מלאך החבלה של הליכוד". לאוטוביוגרפיה שחיבר בשנת 1994 קרא "סיכומו של דבר". כן יצא לאור בשנת 1998 ספרו של חיים משגב "שיחות עם יצחק שמיר". ב-2009, יוסי אחימאיר, שכיהן כיועץ לשכתו בכהנו כראש ממשלה, ערך לקט מחקרים, עדויות, זיכרונות ועוד הנוגעים לשמיר כדמות הספר "כסלע איתן".
על רקע חתימת הסכם חברון על ידי בנימין נתניהו, פרש שמיר מהליכוד והצטרף ל"חרות – התנועה הלאומית" שבראשות בני בגין. בריאיון עמו מ-1999 הביע עניין במפלגת המרכז החדשה וזיקה למועמד מטעמה, הרמטכ"ל לשעבר אמנון ליפקין-שחק. בבחירות לכנסת החמש עשרה הוצב שמיר במקום האחרון של כבוד ברשימת "האיחוד הלאומי". לאחר הבחירות ופרישת נתניהו חזר לליכוד, והוצב שם במקום האחרון של כבוד ברשימה לבחירות לכנסת השש עשרה. שמיר גם הודיע על תמיכתו במועמד הליכוד אריאל שרון במהלך הבחירות המיוחדות לראשות הממשלה – 2001. בשנות השמונים המאוחרות לחייו פסק שמיר מלהתבטא בציבור.
בשנת תשס"א (2001) הוענק לשמיר פרס ישראל למפעל חיים.
שמיר האריך ימים יותר מכל ראש ממשלה ישראלי אחר. בשנותיו האחרונות סבל ממחלת אלצהיימר. ב-2004, בעקבות הרעה במצבו הבריאותי עקב מחלתו, הוא הועבר למוסד רפואי מיוחד והמדינה סירבה להיענות לבקשת המשפחה ולממן את שהותו במוסד. בשנותיו האחרונות הועבר לבית אבות בתל אביב.
נפטר ב־30 ביוני 2012 בגיל 96. נטמן בהלוויה ממלכתית בחלקת גדולי האומה שבהר הרצל. ארון קבורתו הוצב בכנסת ולאחר מכן נערכה עבורו הלוויה ממלכתית בהר הרצל ב-2 ביולי, ובמהלכה ספדו לו בין לבין נשיא המדינה פרס, ראש הממשלה נתניהו ויושב ראש הכנסת ראובן ריבלין, כמו גם בני משפחתו.
תדמיתו וחייו האישיים.
שמיר כיהן כראש הממשלה קרוב לשבע שנים. בניגוד לאנשי ציבור בולטים אחרים, כמו אברהם (יאיר) שטרן ומנחם בגין, ששמיר תפס את מקומותיהם, שמיר לא היה כריזמטי במיוחד; לא היה לו כושר רטורי או תכונה אחרת המאפשרת להלהיב את סובביו בזמן קצר. "סמלו המסחרי" היו קומתו הנמוכה ותדמיתו הנמרצת. לעיתים היה מקבל את הידיעות שהובאו בפניו במילים "נו... טוף", שהיו אף הן לאמרת כנף. יריביו הביטו בזלזול על תכונות אלו, אך לאוהדיו הם שימשו חיזוק לדעה שליד הגה השלטון במדינת ישראל עומד אדם נחוש, דבק בעקרונות, נאמן לארץ-ישראל, צנוע בהתנהלותו האישית, שאין להסיטו מן הדרך.
שמיר היה נשוי לשולמית עד לפטירתה ביולי 2011 ואב לשניים: יאיר שמיר (הקרוי על שם מנהיג לח"י, אברהם "יאיר" שטרן), שר החקלאות לשעבר, וגלעדה, שעבדה במשרד ראש הממשלה במשך 30 שנה, ולאחר מכן כעובדת סוציאלית. נכדתו, מיכל דיאמנט, הוצבה במקום ה-15 ברשימת תקווה חדשה בבחירות לכנסת העשרים וארבע, אולם לא נבחרה.
שמעון פרס