I 1874 begynte han utenriksdepartementets tjeneste. Han var først privatsekretær for sin far, men arbeidet også ved flere gesandtskap. Han var i 1882 ambassaderåd i London, i 1884 i St. Petersburg og deretter i Haag. I 1885 ble han understatssekretær og året etter statssekretær for utenrikssaker og dermed leder av utenriksdepartementet. Han fikk tittelen , et sjikt mellom statssekretær og minister, i kongeriket Preussen i 1888.