国政府迁台后，为维护在国际上继续代表「中国」的正统，与日本能保持较为平稳的外交关系；加上战后台湾经济百废待举，与日本的贸易关系对经济发展至关重要，更使民间关系更是紧密。日本对蒋中正政策都存感谢态度，并曾担心蒋的逝世会影响日台关系。蒋中正逝世后，日本政要岸信介、佐藤荣作均有来台悼念。日本成立「蒋公遗德显彰会」纪念蒋中正和他对战后日本的「遗德」。1985年8月，日本民间在千叶县岬町所立「以德报怨」碑。而日本爱知县中正神社碑文则显示日本国民“永远感谢”。1970年代蒋介石逝世后，官方编辑之《蒋公纪念歌》里有「