分为波昂的驻西德大使馆与东柏林的驻东德大使馆。两德统一后的1991年，两者再度合併成单一的日本驻德大使馆。为了配合日本大使馆的开张，德日两国的代表人员于1980年代中期决定翻新蒂尔加滕的日使馆旧院区。2000年之前完成的变化内容包括将入口大门改设到广岛街上、并增设一座和风庭园。
领事区.日本驻德大使馆的领事辖区包含柏林、布兰登堡、梅克伦堡-西波美拉尼亚、萨克森、萨克森-安哈特、图林根。德国其他地区的日本领事馆辖区如下：
位置资讯.日本驻德大使馆馆院