5月25日，美军发动第二次东京大空袭，德国驻日大使馆在B-29轰炸机投下的爆弹烈雨之中严重焚毁。二战结束、同盟国佔领日本之后，大使馆用地和日本境内的其他德国地产均被盟军司令部（）列为接收对象。随着西德在1949年时建国、以及日本在1952年时借由旧金山和约恢复主权，两国已经具备了重新建立邦交的条件。战前曾任职于大坂德国总领馆和东京大使馆的沃夫冈·加林斯基（）负责率领团队，在帝国饭店的房间内替大使馆的重新开馆进行前置工作，并于1952年时正式成立了「德国驻日海外代表处」（），由参赞担任临时代办。由于永田町