幕府指定为赴日外国使节的驻留用公馆。1871年普鲁士主导全德统一、建立德意志帝国后，便将日本的普鲁士公使馆改为德国公使馆，并于1872年在东京市中心的永田町辟建新馆舍。1894年，永田町的德国公使馆在明治东京地震当时遭到震毁，替日本政府担任外籍顾问的英国建筑师约西亚·康德帮德方设计了新的两层式砖造公使馆新楼，该楼于1897年时开始作为使馆办事处使用。1906年，德国将驻日代表处的级别从公使馆升为大使馆，馆院与陆军省的后门仅隔有一条名为「梨木坂」的小街，1936年完工的国会议事堂也座落于南边的大路对面