14 września 1939 miasto zajęły wojska niemieckie, pod koniec września w wyniku wcześniejszych ustaleń (Pakt Ribbentrop-Mołotow) znalazło się pod okupacją sowiecką. Wraz z całą Polską południowo-wschodnią jednostronnie włączone do Ukraińskiej SRR. W latach 1941–1944 pod okupacją niemiecką, w mieście istniało getto i wymordowana została żydowska ludność miasta. W mieście działał również obóz dla sowieckich jeńców, w którym zginęło około 24 tys. ludzi. Istniał również obóz karny dla francuskich i belgijskich uczestników ruchu oporu oraz jeńców wojskowych. Z więzionych około 25 tys. osób ocalało 6 tys. Pozostali przy życiu więźniowie utworzyli działające we Francji stowarzyszenie Ceux de Rawa Ruska – Union Nationale des Deportes. Pod okupacją hitlerowską siedziba gminy Rawa Ruska.