1927年（昭和2年）与妻子一起到朝鲜旅行，在2个月间游玩了珍岛、金刚山，可是这次旅程，却令牧水的身体出了问题，结果要提前结束旅程回国。翌年1928年9月，牧水因晒太阳导致的足部晒伤，引发连串腹泻、发烧，令身体情况变得极为衰弱。最终，牧水因急性肠胃炎及肝硬化併发症，最终于9月17日在沼津市的家中逝世，享年43岁。最后下葬于沼津市千本山乘运寺，戒名古松院仙誉牧水居士。牧水死后，妻子若山喜志子继承了丈夫的诗歌雑志《创作》，长子若山旅人亦成为了一位歌人，并担任沼津市若山牧水记念馆第二代馆长。牧水在短歌方面在几