ヘッペンハイムには、中世からすでにユダヤ人が暮らしていた。1232年から1803年までマインツ大司教領に属したこの都市では、教会によるユダヤ人迫害運動が繰り返し行われた。1348年から1349年のペスト禍に端を発したユダヤ人迫害によって、この街に住むユダヤ人はいなくなった。新しいコミュニティの成立は17世紀であった。1900年頃には約40家族、およそ200人から300人がこの都市に住んでいた。その後、他の都市への移住があり、1933年には113人にまで減少した。この街の最も有名なユダヤ人は、フランクフルト大学の宗教学の名誉教授で、シオニストのマルティン・ブーバーである。彼は1938年2月に移住を強いられ、家族とともにイェルサレムに亡命した。1938年11月のユダヤ人排斥運動で彼の家は略奪に遭い、図書室に収蔵されていた3,000冊の書物が失われた。1939年5月の時点で、この街には37人のユダヤ人が住んでいた。1942年9月にヘッペンハイムの最後のユダヤ人が強制国外追放になった。かつてシナゴーグがあった場所には1938年に破壊されたシナゴーグのスケッチが描かれた記念の石板が設置されており、「ここには、1900年に建設され、1938年に破壊されたシナゴーグが建っていた」と書かれている。またこれに添えられた碑には「殺害された者への追悼」として、かつてヘッペンハイムに住んでいた29人のユダヤ人の名前が記されている。ヘッペンハイムの精神病医学施設は国会社会主義の「安楽死」犯罪に荷担した。この施設はユダヤ人精神病者の「集合施設」と呼ばれ、ガス室へ至る道程の途中駅と化していた。この施設から患者たちは、殺害施設や強制収容所へと送られていったのである（こうした施設は、アイヒベルク、ヴァイルミュンスター、ハーボルン、カルメンホーフ、マールブルク、メルクスハウゼン、ハイナ、ヘッペンハイム、ギーセン、ゴッデーラウにあった）。