In der Zeit des Nationalsozialismus war zunächst Joachim von Ribbentrop Botschafter in London. Er verließ Carlton House Terrace am 12. März 1938, dem Tag des „Anschlusses“ Österreichs. Sein Nachfolger wurde Herbert von Dirksen. Dieser veranlasste bald darauf, das prächtige österreichische Botschaftsgebäude seines Zweckes zu entbinden und als deutsche Konsularabteilung zu nutzen. Die österreichischen Diplomaten mussten bis 1949 warten, bis sie das Gebäude am Belgrave Square wieder als Botschaft nutzen konnten.