1920年3月21日痼疾肾炎复发，4月12日突发脑溢血抢救无效，于次日在东京逝世，4月17日葬于东京青山灵园。
纪念.高木逝世当天，大正天皇降旨追封其从二位，并授旭日大绶章。长子高木喜宽承袭男爵爵位。1903至1905年法国南极远征期间，法国科学家让-巴蒂斯特·夏古领导的探险队在南极大陆葛拉汉地西岸勒鲁湾的东北部、南纬65度33分、西经64度14分发现并简单测绘了一处海岬。1959年，英国南极洲地名委员会通过决议将该海岬命名为“高木岬”，以纪念“日本帝国海军军医总监，1882年