1990年兩德統一，東京的兩座德國駐日使館也減為一座。1995年阪神大地震的發生，使日德雙方均認為原有的大使館館舍已經不能符合更新穎、更嚴格的防震要求，而決定實施重建工程。最後由德國建築師馬勒·福克斯（）的方案在競圖比賽中脫穎而出，他將新的使館辦公大樓設計成一座黑色的玻璃鋼骨立方體，內部採白色漆面和自然採光，佔地720平方公尺，樓板總面積3,700平方公尺，使用面積1,600平方公尺，共有65個辦公空間，於2005年竣工。使館院區內除了這棟大樓與大使官邸外，尚有一座日式庭園，園裡有明治時代流傳下來的雕塑和藝術品。