ב-1978 מונה לנספח בשגרירות ישראל בוושינגטון די. סי. והיה חבר המשלחת הישראלית לשיחות קמפ דייוויד בין ישראל למצרים. ב-1983 עזב את משרד החוץ ושימש מנהל שיווק בחברת היי טק. לאחר שובו למשרד עבד באגף משאבי אנוש. ב-1985 מונה לקונסול וקצין המנהלה בשגרירות ישראל בבואנוס איירס שבארגנטינה, במרץ 1992 נהרגה רעייתו אליאורה במהלך הפיגוע בשגרירות ישראל בארגנטינה. כרמון המשיך לעבוד ולשקם את השגרירות כמשנה לשגריר עד 1995.