לאחר סיום הלימודים הוא התחיל לעבוד במשרד החוץ השוודי. במהלך השנים יאן אליאסון כיהן בתפקידים שונים בשרות החוץ ובשנת 1988 מונה לנציג המדינה בארגון האומות המאוחדות. הוא היה מעורב בפעילות האו"מ במהלך מלחמת איראן–עיראק, סומליה, סודאן ואזור הבלקן. בשנים 1994–1999 הוא חזר לשוודיה ומונה לתפקיד בכיר במשרד החוץ.