Haymerle entrò in diplomazia nel 1850. Nel 1864, dopo la Seconda guerra dello Schleswig contro la Danimarca, fu inviato a Copenaghen per ristabilirvi le normali relazioni diplomatiche e nel 1869 fu ambasciatore ad Atene. Fra il 1872 e il 1876 fu inviato a l'Aia e nel febbraio 1877 fu nominato, secondo le sue aspirazioni, ambasciatore austriaco in Italia.