Le premier représentant diplomatique de la République de Weimar est Friedrich Sthamer. Il travaille aux n°8 n°9 Carlton House Terrace. Lui succèdent dans ses fonctions Konstantin von Neurath et Leopold von Hoesch. Sous le Troisième Reich, l'ambassadeur est Joachim von Ribbentrop. Il quitte Carlton House Terrace le , date de l'Anschluss. Il est remplacé par Herbert von Dirksen. Cette annexion a conduit l'Allemagne à utiliser le bâtiment de l'ambassade autrichienne comme section consulaire allemande. L'Autriche ne retrouvera ce bâtiment diplomatique qu'en 1949.