Som diplomat var Hermelin politisk utnevnt. Han ble nominert til ambassadørposten i Norge av president Bill Clinton. Hermelin presenterte sine akkreditiver den 8. januar 1998 og tjenestegjorde fram til 7. januar 2000.