逝于日本故乡福冈县，是唯一一位在任期中死亡的总督。大正8年（1919年），遵照其遗言“如果吾身有任何万一之事，定要葬于台湾”，遗体由日本福冈运回台湾，葬于台北三板桥日本人公墓（位于今台北市中山区林森公园），法名少林院殿柏荫自得大居士，是唯一一位埋骨于台湾的总督。但在二战后，墓园被建筑所掩盖。直到1997年台北市政府强制收回林森北路附近被居民长期占据的市地，在抗争及拆除大批违建时，人们才发现杂乱的违章建筑区里隐藏着一座被人遗忘的台湾总督坟墓。1999年，因公园兴建而迁葬于台北县三芝乡（今新北市三芝