两国在1972年9月29日前有官方外交关系。断交后，中华民国与日本双方虽受制于一个中国政策，但因历史上的密切关系以及地缘政治上的相依，除了非正式的政治互动外，更在经济、贸易、文化等各层面维持紧密的交流。目前双方政府均在对方首都与重要城市互设代表机构及分处。
代表机构.1972年12月1日，中华民国成立亚东关系协会与日本以民间团体名义设立的财团法人交流协会共同签署《互设驻外办事处协议书》。根据此协议，中华民国于日本东京设立具大使馆性质的台北驻日经济文化代表处（日文：。原亚东关系协