府允许黄遵宪辞职还乡。光绪三十一年（1905年）3月28日，病逝于故乡，终年五十八岁。
客家诗宗.黄遵宪是“诗界革命”的主将，是嘉应州的一代诗宗。他曾辑录了客家民歌9首，收入《人境庐诗草》之中，大大地提高了客家歌谣的社会地位。梁启超说：“近世诗人，能镕铸新思想入旧风格者，当推黄公度”；“公度之诗，独辟境界，卓然自立于二十世纪诗界中，群推为大家”。他在《人境庐诗草》中描述客家山歌：「瑶峒月夜，男女隔岭唱和，兴往情来，余音袅娜，犹存歌仙之遗风，一字千回百折，哀厉而长，称山歌。」