其地址到1960年前均维持不变，而首任特命全权大使于1955年时才到任。
迁入现址.1954年，日本政府提议将南麻布的土地交予西德作为使馆、代替永田町的旧地，并只收取1日元的象征性费用。这块地在挪为西德所用之前，曾建有中华民国（台湾）驻日大使馆的设施。日本政府提案两年后的1956年，西德开始在面积约14,500平方公尺的土地上修建使馆办公楼和大使官邸，两楼均富有现代建筑的特色。大使官邸为钢筋混凝土结构，由联邦建筑局（）-{zh-cn:波恩; zh-tw:波昂; zh-hk:波恩