Han var sønn av den kjente akademikeren og antinazisten Otto Heinrich von der Gablentz, og studerte jus ved Freie Universität Berlin og Albert-Ludwigs-Universität Freiburg samt statsvitenskap og sosiologi ved Europa-colleget i Brugge, St. Anthony's College ved Oxford University og ved Harvard University. I 1959 trådte han inn i den tyske utenrikstjenesten, og var på 1960-tallet blant annet stasjonert i Australia og London. Senere arbeidet han i utenriksdepartementet som sekretariatsleder for europeisk integrasjon og ved kanslerkontoret. Han ble utnevnt til ambassadør i Nederland i 1983, og var senere bl.a. ambassadør i Russland (1993–1995).