Za 2. světové války byla Oděsa nejprve bombardována a i přes její obranu byla 16. října 1941, po ústupu sovětských vojsk na Krym, obsazena německou armádou. Následně byla do roku 1944 okupována Rumunskem a přičleněna ke gouvernementu Zadněstří; v okolí se nacházely koncentrační tábory, v nichž zahynula velká část rumunských a oděských Židů; další Židé byli zavražděni během Oděských masakrů. Partyzánský odboj se v té době soustředil především do oděských katakomb. Rudá armáda pod vedením oděského rodáka Rodiona Malinovského město získala nazpět plně 10. dubna 1944. Roku 1945 získala Oděsa čestný titul Město-hrdina.