使馆用地和日本境内的其他德国地产均被盟军司令部（）列为接收对象。随着西德在1949年时建国、以及日本在1952年时借由旧金山和约恢复主权，两国已经具备了重新建立邦交的条件。战前曾任职于大坂德国总领馆和东京大使馆的沃夫冈·加林斯基（）负责率领团队，在帝国饭店的房间内替大使馆的重新开馆进行前置工作，并于1952年时正式成立了「德国驻日海外代表处」（），由参赞担任临时代办。由于永田町的原德国使馆地皮已经被日本政府划为国立国会图书馆的预定位址，因此西德代表处改设于麻布东鸟居坂町（今六本木五丁目）。虽然该处于同年