בתחילת כהונת הכנסת, נותרה הסיעה באופוזיציה לממשלתו של יצחק רבין. ב-2 בפברואר 1994, בעקבות חילוקי דעות קשים עם רפאל איתן, הקימו שגב וחבריו לסיעה, אלכס גולדפרב ואסתר סלמוביץ, את סיעת "יעוד" שהתפלגה מ"צומת". הקמת הסיעה החדשה ותיקון ביוזמת חברי הכנסת אלי דיין וסאלח טריף אפשרו לשגב להצטרף לממשלה ב-9 בינואר 1995 בתפקיד שר האנרגיה והתשתית וחבר הקבינט המדיני-ביטחוני, כשעמו גולדפרב שמונה לסגן שר. שני הקולות החדשים שנוספו לקואליציה הוסיפו לממשלתו של רבין יציבות שחסרה לה, ואפשרו למעשה את אישורו בכנסת של הסכם אוסלו ב' ב-5 באוקטובר 1995, מהלך שספג ביקורת, שכן שגב התפלג ממפלגה שדגלה בפתרון הבעיה הלאומית הפלסטינית ממזרח לנהר הירדן, והיה לאחד משישים ואחד חברי הכנסת שהצביעו בעד ההסכם, בעקבות מינויו לשר. לאחר רצח רבין, ב-4 בנובמבר 1995, הוסיף שגב לכהן בממשלתו של שמעון פרס, עד לסוף כהונתה של ממשלה זו, ביוני 1996.