שר האוצר בממשלת רבין, יהושע רבינוביץ, הוביל שני מהלכים מרחיקי לכת בתחום המיסים:
האינפלציה, שהחלה לעלות כבר בתחילת שנות ה-70, גאתה אחרי מלחמת יום הכיפורים בשל העלייה בהוצאה הביטחונית ובשל משבר הנפט, אך ירדה לכ-25% לשנה בתקופה שקדמה לכינונהּ של ממשלת רבין. רבין ורבינוביץ לא נקטו במדיניות של ריסון תקציבי, שמשמעותהּ הייתה פיטורי עובדים במגזר הממשלתי וקיצוץ בתוכניות הרווחה. האפשרות לקיצוצים הועלתה לדיון על סדר היום, אך נעצרה לנוכח מאבקים פנימיים בתוך הממשלה והתנגדות לה. שיעור האינפלציה במהלך כהונת ממשלת רבין נע בין אינפלציה שנתית של 39.7% (1974 לעומת 1973) לאינפלציה שנתית של 31.3% (1976 לעומת 1975).
רמת האבטלה נשמרה נמוכה לאורך כל תקופת כהונת ממשלתו, פחות מ-4%. ב-8 בנובמבר 1974 הוחלט לבצע פיחות בשער המטבע ביחס לדולר האמריקאי בסך 43%, מ-4.2 לירות ארץ-ישראלית ל-6 לירות לדולר.
בתקופת ממשלת רבין הראשונה נבנו בבנייה ציבורית ובסיוע נדיב במימון הרכישה עשרות אלפי דירות לזוגות צעירים ולמתפנים משכונות עוני. נבנו שכונות חדשות רבות, ובכללן שכונות שנוסדו כשכונות לזוגות צעירים וליוצאי שכונות עוני, והפכו תוך זמן קצר לשכונות יוקרה, כדוגמת רמת אביב ג' ורמת שרת בירושלים.
ב-14 בדצמבר 1976 נערכה בכנסת הצבעה על הצעת אי אמון שהגישה החזית הדתית התורתית בשל חילול השבת שנגרם מקיום טקס קבלת מטוסי F-15 ראשונים לחיל האוויר שהתקיים סמוך לכניסת השבת. שניים משלושת שרי סיעת המפד"ל נמנעו בהצבעה. רבין, בהתייעצות עם שר המשפטים חיים צדוק, החליט לראות את הצבעתם זו כהתפטרות (החוק לא אפשר אז לראש הממשלה לפטר שר אלא אם נמנעה סיעתו מלתמוך בממשלה בהצבעת אי-אמון). הוא הודיע על כך בכנסת ב-20 בדצמבר, ובאותו לילה כינס ישיבת ממשלה מיוחדת שבה הודיע על כוונתו להתפטר, ונסע לבית הנשיא להגיש את התפטרותו. במהרה התקבל חוק לפיזור הכנסת ולהקדמת הבחירות ל-17 במאי 1977, מה שהבטיח שהממשלה תהיה עד אחרי הבחירות ממשלת מעבר שבהּ אי אפשר להביע אי אמון. הליך זה כונה על ידי רבין או מקורביו "התרגיל המבריק", כינוי שמאוחר יותר נחשב אירוני.
רבין העריך שדרך הקדמת הבחירות ישתפרו סיכויי מפלגתו לנצח, מתוך הנחה כי מנהיגי מפלגת שינוי לא יספיקו לגדול לכדי כוח אלקטורלי מרכזי שינגוס בקולותיה של העבודה, כמו גם שהאופוזיציה בראשות הליכוד לא תספיק לארגן קמפיין בחירות משמעותי. שתי ההנחות התבדו, ולמעשה הכינו את הקרקע לקראת "המהפך". "שינוי" ו"התנועה הדמוקרטית" התאחדו למפלגת ד"ש – התנועה הדמוקרטית לשינוי בהנהגת יגאל ידין, שסחפה חלק נרחב ממצביעי העבודה לטובתה. כמו כן, "התרגיל המבריק" הוביל לקרע בין מפלגת העבודה למפד"ל, והשפיע על הירקמות הברית בין המפד"ל לליכוד, שעלייה התבססה בהמשך ממשלת בגין הראשונה.
חודשיים לפני הבחירות, במרץ, ביקר רבין בוושינגטון והיה עליו להתמודד מול משבר נוסף. הנשיא הדמוקרטי החדש, ג'ימי קרטר, ניסה לקדם התערבות אמריקאית רחבת היקף במשא ומתן לשלום במזרח התיכון, ותמך נחרצות בהקמתה של מדינה פלסטינית או לכל הפחות ישות אוטונומית הקשורה בבחינה חוקית לממלכת ירדן שתתקיים בגבולות הקו הירוק. ממשלת רבין ניסתה להתגבר ללא הצלחה על הפער העדתי החברתי-כלכלי בין ספרדים לאשכנזים, שהפכה לכלי פוליטי בידי יריביו.
בהתמודדות הפנימית במרכז מפלגת העבודה שהתקיימה בפברואר 1977 ניצח רבין שוב את שר הביטחון שמעון פרס, ברוב קטן, ונבחר למועמד המערך לראשות הממשלה. התמודדות זו גרמה להידרדרות משמעותית ביחסים האישיים בין השניים, וחידוד ההבדלים האידאולוגיים ביניהם. אולם ב-15 במרץ פרסם עיתונאי "הארץ" דן מרגלית את פרשת חשבון הדולרים – קיום חשבון בנק בארצות הברית השייך לבני הזוג רבין, בניגוד לחוק הפיקוח על מטבע זר. שר האוצר רבינוביץ רצה להטיל על רבין קנס, מעשה שהיה מונע הגשת כתב אישום. אולם היועץ המשפטי לממשלה אהרן ברק קבע כי יש להעביר את העניין לפרקליטות, בשל גובה הסכומים הרב שבחשבון. לאחר שהתברר לו שבכוונת רבין להתפטר, הסתפק ברק בהעמדתה לדין של לאה רבין ובכופר שהוטל על יצחק רבין. רבין החליט להתפטר ממועמדות המפלגה לראשות הממשלה והודיע על כך בשידור טלוויזיה דרמטי ב-7 באפריל 1977 בשעה 23:40. הביוגרף של רבין, יוסי גולדשטיין, כתב כי לדעתו עשה זאת רבין משום שהעריך נכונה שסיכוייה של מפלגתו לזכות בבחירות קלושים. ברק טען בדיעבד כי עקב התפטרותו של רבין החליט שלא להגיש תביעה נגדו.
ב-10 באפריל נבחר פרס ברוב גדול על ידי מרכז מפלגת העבודה להחליף את רבין כמועמדהּ לראשות הממשלה. רבין רצה לפרוש מראשות הממשלה, אולם משום שהממשלה הייתה ממשלת מעבר, הדבר לא התאפשר. גם מינוי של ממלא מקום לא היה אפשרי לפי החוק, ולבסוף הוחלט כי רבין יצא לחופשה החל מ-22 באפריל, ופרס ישמש כראש הממשלה בפועל, אם כי מבחינה חוקית המשיך רבין לשאת באחריות כראש הממשלה וקיבל עדכונים שוטפים. אחרי תבוסת פרס בבחירות לכנסת שב רבין למלא את תפקידו, והעביר את השלטון לידי מנחם בגין ב-20 ביוני 1977. בדיעבד התפטרותו של רבין תרמה להמשך דרכו הפוליטית, כיוון שפעם נוספת נוכח הציבור לאמינותו וליושרה שלו, וההפסד המר, הראשון מאז קום המדינה, של מפלגת העבודה, נרשם בתודעה הקולקטיבית על שמו של פרס.
בין תפקידים.
בין השנים 1977–1984 היה רבין חבר הכנסת באופוזיציה. לתקופה קצרה לאחר פרישתו מראשות הממשלה הוא מיעט להשתתף בפוליטיקה או להתראיין, אך לאחר מכן שב לכותרות ובתוך הכנסת בעיקר הרבה לקחת חלק בוועדת החוץ והביטחון. רבין תמך ללא סייג בהסכם השלום בין ישראל למצרים וטען כי ההסכם נעשה בעיקרו מתוך צורך והכרח של מנהיגי שתי המדינות, בגין וסאדאת. משפרש מראשות הממשלה כתב רבין עם העיתונאי דב גולדשטיין את האוטוביוגרפיה שלו, "פנקס שירות". בספר התייחס רבין בצורה בוטה לשמעון פרס, שאותו כינה "חתרן בלתי נלאה". האיבה בין השניים נמשכה עוד שנים רבות, אך דעכה עם כהונתם המשותפת בממשלות השונות. לכתיבת הספר הייתה גם משמעות פוליטית, כיוון שבאותה העת החל רבין לבנות את בסיס כוחו בתוך המפלגה, "מחנה רבין".
ב־16 בינואר 1980 קרא יגאל אלון תיגר על מנהיגותו של פרס, במכתב בו הודיע כי הוא יציג את מועמדותו לראשות המפלגה. אולם הוא נפטר בפתאומיות בפברואר, ויצחק רבין שוב היה המתמודד נגד פרס על ראשות המפלגה. רבין העריך, על בסיס סקרי דעת קהל שהראו תמיכה רבה עבורו ביחס לפרס, כי סיכוייו לנצח גבוהים. למעשה, הוא לא העריך נכונה את הלך הרוח במנגנון המפלגתי, שזעם על המאבק הפנים מפלגתי שפתח דרך הספר "פנקס שירות" ובעקבותו תמך בפרס. הפעם, ב-18 בדצמבר 1980, ניצח פרס ברוב גדול של כ-70 אחוז מהמצביעים במרכז המפלגה כשרבין נאלץ להסתפק במקום הרביעי ברשימת המערך. מאוחר יותר טען כי היה זה ההפסד הגדול בחייו.
פרס ניסה להביא לאחדות במפלגה, ולקראת הבחירות לכנסת העשירית ב-1981 שיריין את מקומו של רבין כשני לו במפלגה ומינה אותו למועמד מפלגת העבודה לתפקיד שר הביטחון על פני מועמדותו של בר-לב. במהלך כהונת הכנסת העשירית שינה רבין את עיקרי התנהלותו והסיק כי פתיחת יריבות פנים-מפלגתית עלולה רק להזיק לסיכוייו לשוב לראשות העבודה ובטווח הרחוק לראשות הממשלה. כאשר ב-1983 שב הנשיא לשעבר יצחק נבון לפוליטיקה והתכוון להתמודד על ראשות העבודה, רבין צידד בפרס, כדי לשמר את מקומו כמספר שתיים במפלגה, על אף ההערכות בדבר הפופולריות הגואה של נבון. לקראת הבחירות לכנסת האחת עשרה ב-1984, רוב של בוחרי הליכוד היו בני עדות המזרח ושאלת העדתיות השתרשה בתוך הפוליטיקה. בעקבות כך, פרס החליט למנות את נבון למספר שתיים במפלגתו, ורבין נותר שלישי. בסופן של הבחירות נוצר תיקו 60:60 בין הגושים והוסכם על הקמת ממשלת אחדות לאומית ברוטציה על תפקיד ראש הממשלה בין פרס ליו"ר הליכוד, יצחק שמיר, שהחליף את בגין שפרש באוקטובר 1983.
כשר הביטחון.
עם הקמת ממשלת האחדות הלאומית ב-1984, לאחר שהוצב במקום השלישי (לאחר פרס ויצחק נבון) ברשימת המערך, נקבע שרבין יכהן כשר ביטחון לאורך כל תקופת הרוטציה (1984–1988). מבחינה אסטרטגית רבין ראה בסוריה את האיום העיקרי על ישראל, והעריך כי הגבול הצפוני ימשיך להיות מוקד פעילות ביטחונית לזמן רב. לצד זאת, בעקבות המצב הכלכלי הרעוע והוצאתה של מצרים ממעגל המלחמה, רבין העריך כי יש לקצץ באופן מבוקר את סדרי הכוחות של צה"ל. כניסתו של רבין לתפקיד הייתה חלקה, והושפעה בין היתר מהתיאום המוצלח בינו לבין הרמטכ"ל משה לוי. רבין קיים את הבטחת קודמו, משה ארנס, לדן שומרון, מינה אותו לסגן ראש המטה הכללי וכעבור שנתיים, על אף התנגדותו של לוי עצמו, מינה אותו לרמטכ"ל.
עם כניסתו של רבין לתפקיד היה צה"ל פרוס בעומק לבנון בקו האוואלי, ונתון להתקפות קבוצות שיעיות ואחרות. בתחילתו של מבצע שלום הגליל, רבין תמך בממשלת בגין ובשר הביטחון שרון ואף נהג לייעץ לשרון במהלך המצור על ביירות. רבין עצמו תמך, עוד בהיותו ראש ממשלה בשנות השבעים, בהקמת "רצועת ביטחון" בדרום לבנון לנוכח מלחמת האזרחים במדינה. עם זאת הוא התנגד למטרות המדיניות של ממשלת בגין בלבנון, ובעקבות זאת פנה במהלך 1983 נגד המלחמה, ובעניין זה יישר קו עם עמדת פרס. כשר הביטחון צמצם רבין עד מאוד את נוכחות צה"ל בלבנון, והגבילהּ לרצועת ביטחון צרה בדרום לבנון – החלטה שעברה על חודו של קול בממשלה (בתמיכת דוד לוי מהליכוד).