בשנת 1933, ערב עליית הנאצים לשלטון התגוררו בהיידלברג כ-1,100 יהודים, אשר היו מעורים בכל תחומי החיים והכלכלה. לאחר עליית הנאצים לשלטון הועברו מתפקידם באוניברסיטה עשרות פרופסורים ממוצא יהודי. רוב יהודי היידלברג היגרו ממנה לפני השואה. בית הכנסת של הקהילה שנבנה ב-1878 נהרס בליל הבדולח. במקום בו עמד בית הכנסת יש כיום אתר הנצחה. במקום בו עמד ארון הקודש נמצאת אבן שיש עליה חקוק בעברית ובגרמנית כי "במקום הזה עמד בית הכנסת של ק"ק (קהילת קודש) היידלברג שנהרס על ידי אכזרים ב-10 בנובמבר 1938". ב-22 באוקטובר 1940 נשלחו למחנה המעצר גירס 281 יהודים (ומשם נשלחו רובם לאושוויץ), ו-111 לגטו טרזיינשטט באוגוסט 1942. כ-100 יהודים ניצלו בעזרת הכומר הרמן מאס.