Dopo la capitolazione della Francia, Marsiglia rimase nel territorio della Francia di Vichy, di cui seguì la sorte fino all'invasione italo-tedesca del 1942 decisa da Hitler. La città venne quindi occupata, come il resto della «zona libera», dalle truppe tedesche il 12 novembre 1942 fino all'agosto 1944. La città soffrì notevolmente dall'occupazione tedesca, soprattutto durante il rastrellamento di Marsiglia, che colpì il quartiere di "Le Panier" a nord del porto vecchio, che veniva considerato un «quartiere criminale» dai nazisti. La notte tra il 22 e il 23 gennaio 1943, diverse migliaia di persone vennero arrestate e due giorni dopo, il 24 gennaio, il generale delle SS Karl Oberg, assistito dal prefetto René Bousquet (responsabile, tra l'altro, anche del rastrellamento del Velodromo d'Inverno), intimò ai residenti sul Porto Vecchio di lasciare le proprie case entro due ore, con 30 kg di bagagli. persone vennero espulse. Nelle successive due settimane, 1.500 edifici vennero fatti esplodere con la dinamite, distruggendo il porto vecchio e lasciando un campo di rovine fino alla liberazione alleata della città. Oltre Ebrei vennero rastrellati a Marsiglia durante l'operazione "Tiger"; furono trasferiti in campi di detenzione prima di essere deportati nei "lager" della Polonia occupata dai nazisti per essere eliminati.Marsiglia subì inoltre in quel periodo diversi bombardamenti aerei. Il 27 maggio 1944 un devastante bombardamento strategico americano causò ingenti danni in città e provocò la morte di marsigliesi, feriti e oltre sfollati; nel bombardamento trovarono la morte anche circa 400 tedeschi delle truppe d'occupazione. Il 21 agosto 1944, l'esercito tedesco mise fuori uso tutte le strutture portuali e militari prima di lasciare la città e vennero colate a picco oltre 200 navi. Venne distrutto anche il celebre "pont transbordeur":