I 2010 ble Ellefsen utnevnt til Norges ambassadør til NATO etter Kim Traavik, en stilling han innehadde til 2014 da han ble etterfulgt av Knut Hauge. Han var deretter kabinettsjef for NATOs generalsekretær, Jens Stoltenberg 2014-2015. I 2015-2016 var han Utenriksdepartementets spesialrepresentant for Irak og Syria og fra 2016 Norges ambassadør til Tyrkia.