Jødenes integrasjon i samfunnet tok en brå slutt da nazistene i 1933 kom til makten. Ludwig Landmann måtte gå av som overborgermester og reiste senere i eksil. Samtidig kom det til diskriminering og etterhvert forfølgelser. Under krystallnatten i 1938 ble tre av byens fire synagoger ødelagt; den eneste gjenværende av de tre gamle synagogene er Westendsynagoge. Rundt 10 000 jødiske innbyggere i Frankfurt ble deportert av nasjonalsosialistene og mange døde.