לאחר רצח רבין, עזב ברק ב-23 בנובמבר 1995 את משרד הפנים ומונה לשר החוץ בממשלה ה־26 בראשות שמעון פרס. מספר ימים אחר כך, ב-27 בנובמבר, השתתף ב"ועידת ברצלונה" וחתם בשם מדינת ישראל על "הצהרת ברצלונה" שהובילה להקמתו של ארגון איחוד מדינות הים התיכון. בקבלת הפנים למשתתפי הוועידה בארמונו של מלך ספרד, נפגש ברק לראשונה עם יאסר ערפאת. בדצמבר 1995 נפגש בבודפשט עם שר החוץ של תוניסיה, חביב בן יחיא והחל לנהל משא ומתן על כינון יחסים דיפלומטיים עם תוניסיה, שבסופו נפתחו באפריל ובמאי 1996 משרדי אינטרסים בשתי המדינות. בינואר 1996 ביקר במרוקו, שם נפגש לשיחה עם המלך חסן השני ונתקבל על ידי ראשי הקהילה היהודית המקומית.