1936年5月9日，在广州一场与朋友的象棋对弈中，突发脑溢血，5月12日病逝。蒋拨款60万治丧，定为国葬。5月25日，在南京励志社举行追悼会，蒋出席并送輓联「沧海正横流，风雨同舟苦共济；中原谁砥柱，荆蓁满地哭元勋」祭悼。其国葬于同年7月13日在广州中山纪念堂举行。为纪念胡汉民的贡献，国民政府将广州市一条路命名为汉民路（今北京路） ，而广州市永汉区（今越秀区）亦曾易名为「汉民区」；在台湾，高雄市小港区及新北市中和区亦有汉民路。
墓.胡汉民在广州去世后，原计划安葬在南京中山陵，