木逝世当天，大正天皇降旨追封其从二位，并授旭日大绶章。长子高木喜宽承袭男爵爵位。1903至1905年法国南极远征期间，法国科学家让-巴蒂斯特·夏古领导的探险队在南极大陆葛拉汉地西岸勒鲁湾的东北部、南纬65度33分、西经64度14分发现并简单测绘了一处海岬。1959年，英国南极洲地名委员会通过决议将该海岬命名为“高木岬”，以纪念“日本帝国海军军医总监，1882年通过实行饮食改良成功防治脚气病的第一人”。在高木岬的附近，还分别有艾克曼角（纪念发现米糠对脚气病作用的荷兰医学家，诺贝尔奖获得者克里斯蒂安·艾克曼