Im Ort waren mindestens seit dem späten 17. Jahrhundert jüdische Familien ansässig, die hier seit spätestens der Mitte des 19. Jahrhunderts über einen Betsaal beziehungsweise eine Synagoge verfügten. Der erst 1928 eröffnete Neubau in der Austraße 3 wurde beim Novemberpogrom 1938 von SA-Männern zerstört, woran heute eine Gedenktafel erinnert. Die meisten der 54 im Jahr 1933 noch in Gernsbach wohnhaften Juden emigrierten während der NS-Diktatur oder zogen in andere deutsche Städte. Mindestens 13 jüdische Mitbürger des Ortes wurden Opfer der Shoa. Für die am 22. Oktober 1940 bei der Wagner-Bürckel-Aktion ins Internierungslager Gurs verschleppten neun Gernsbacher Juden wurde ein Gedenkstein an der Stadtbrücke errichtet.