离首相办公室和行政部门云集的霞关也不远，因此，该地成了德国人在战前的日本进行情报活动的据点，20世纪着名间谍——俄裔德国人理查·佐尔格即曾于德国驻日大使馆替苏联进行秘密任务。
二战及战后初期.1945年5月25日，美军发动第二次东京大空袭，德国驻日大使馆在B-29轰炸机投下的爆弹烈雨之中严重焚毁。二战结束、同盟国佔领日本之后，大使馆用地和日本境内的其他德国地产均被盟军司令部（）列为接收对象。随着西德在1949年时建国、以及日本在1952年时借由旧金山和约恢复主权，两国已经具备了