Han døde i Bonn, 36 år gammel, av blodforgiftning. Hans nevø Gustav Ludwig Hertz fikk Nobelprisen i fysikk i 1926, og Gustavs sønn Carl Hellmuth Hertz oppdaget medisinsk ultralyd.