רבינוביץ נולד בירושלים לגוטמן רבינוביץ, ששימש שנים רבות מנכ"ל "מעריב". דודו היה האלוף אהרן יריב. השתחרר מצה"ל בדרגת סגן-אלוף. סיים תואר ראשון בלימודי המזרח התיכון באוניברסיטה העברית ותואר שני באוניברסיטת תל אביב. הוא השלים עבודת דוקטורט על סוריה, באוניברסיטת קליפורניה בלוס אנג'לס ב-1971, והתמנה למרצה להיסטוריה של המזרח התיכון באוניברסיטת תל אביב. הוא התמנה לראש מרכז משה דיין לחקר המזרח התיכון ואפריקה ב-1983, מונה לדקאן הפקולטה למדעי הרוח ב-1989 ולאחר מכן לרקטור באוניברסיטת תל אביב. ב-29 בנובמבר 1992 אישרה ממשלת ישראל את מינויו כשגריר ישראל בארצות הברית, אך כניסתו לתפקיד התעכבה מפני שנתגלה ברבים שארבעה ימים לפני מינויו, מס הכנסה החליט להטיל עליו כופר בגין הפרת חובת דיווח על שכר שגבה מאוניברסיטאות בארצות הברית בשנים 1982, 1986 ו-1989 שבהן שהה בשבתון, כופר אותו שילם רבינוביץ ביום המינוי עצמו, וכן שהמפקח על מטבע חוץ הטיל עליו כופר בגין החזקת מט"ח ללא היתר. ב-17 בינואר 1993 בחנה הממשלה את מינויו לשגריר לאור הגילויים החדשים והחליטה להותיר את החלטתה הקודמת על מכונה. על החלטה זו של הממשלה הוגשה עתירה לבג"ץ, ובית המשפט החליט ב-28 בינואר לדחות את העתירה מאחר שמצא את החלטת הממשלה כעומדת במתחם הסבירות. רבינוביץ כיהן כשגריר ישראל בארצות הברית בשנים 1996-1993 וכראש צוות המשא ומתן לשיחות עם סוריה בממשלת רבין השנייה ובממשלת פרס שלאחר רצח רבין. רבינוביץ נבחר לכהן כנשיאה השישי של אוניברסיטת תל אביב בשנת 1998, תפקיד בו שימש שתי כהונות עד שנת 2007.