Jødeforfølgelsen begynte under italiensk okkupasjon på 1930-tallet. De rundt 1650 jødene på Rhodos (sammen med noen få jødisk innbyggere på Kos) ble fraktet med båt 24. juli 1944 til Athen og ankom Auschwitz med tog 16. august. Noen få overlevende kom tilbake i 1945 og fant at boligene deres hadde blitt overtatt av andre etter deportasjonen. De fleste overlevende forlot Rhodos etter noen måneder og sluttet seg til slektninger i andre land. Synagogen ble stående til nedfalls. De ble på 1950-tallet gjort forsøk på å revitalisere det jødiske samfunnet og noen nye flyttet til.