Jõerüüt var Estlands ambassadør til Finland fra 1993 til 1997, senere til Italia, Malta og Kypros. Han var Estlands ambassadør ved FNs hovedkvarter i New York i 2004, men ble samme år utnevnt til forsvarsminister, først i Juhan Parts’ regjering, senere i Andrus Ansips regjering. Jõerüüt gikk av i 2005, og han var senere ambassadør til Latvia fra 2006 til 2011 og til Sverige fra 2011 til 2014.