לאחר קום המדינה התקבל לראיון אצל שר החוץ משה שרת. הייתה זו תחילתה של קריירה דיפלומטית בת חצי יובל, שבמהלכה שירת בנציגויות ישראל באירופה ואפריקה. במהלך שליחותו לפריז הכיר את מי שתהיה רעייתו - רחל גרפינקל, בת לאחת המשפחות שהשתתפו בייסוד המושבה ראשון לציון. לאחר כמה שנים שבהן שימש כשגריר ישראל בניגריה, חזר לישראל וקבע את בית המשפחה בירושלים. במשרד החוץ התקדם עד לתפקיד המשנה למנכ"ל וראש המחלקה הכלכלית והיה מעורב בפרשיות רבות, ובייחוד בפרשה של חטיפת מטוס אל על לאלג'יריה. לימים סיפר שעסקת שחרור החטופים גובשה סביב הרעיון שהחוטפים ישחררו את החטופים כמחווה לממשלת איטליה, שמשטחה יצא המטוס, וישראל תהיה מוכנה לשחרר את מה שהגדיר "אסירים ללא דם על הידיים" - היה זה השימוש הראשון בנוסחה זו.