W latach 1943–1944 Niemcy spalili i zburzyli niemal całą zabudowę szopów i ulicy Karmelickiej. Ocalały jedynie kościół Narodzenia NMP i budynek Szpitala Ewangelickiego (zniszczony w 1944 podczas powstania warszawskiego). Po powstaniu w getcie warszawskim odcinek współczesnej ulicy pomiędzy ulicami: Gęsią (Anielewicza) i Wołyńską (Lewartowskiego) znalazł się w obrębie obozu koncentracyjnego KL Warschau. W miejscu wzniesionego po wojnie budynku pod nr 17a znajdowało się obozowe krematorium.