馆馆舍已经不能符合更新颖、更严格的防震要求，而决定实施重建工程。最后由德国建筑师马勒·福克斯（）的方案在竞图比赛中脱颖而出，他将新的使馆办公大楼设计成一座黑色的玻璃钢骨立方体，内部採白色漆面和自然採光，佔地720平方公尺，楼板总面积3,700平方公尺，使用面积1,600平方公尺，共有65个办公空间，于2005年竣工。使馆院区内除了这栋大楼与大使官邸外，尚有一座日式庭园，园里有明治时代流传下来的雕塑和艺术品。2011年3月的福岛第一核电厂事故爆发后，德国外交部曾通告旅日德侨远离首都圈，并于3月18日至4月