W pierwszych dniach lipca 1941 roku, po wybuchu wojny niemiecko-sowieckiej, w miejscowym areszcie NKWD zamordowało od 70 do 100 więźniów. Od lipca 1941 miasto znajdowało się pod okupacją niemiecką. 2 kwietnia 1942 Niemcy utworzyli w Sarnach getto dla Żydów miejscowych i przesiedlonych z okolicznych miejscowości, wskutek czego liczba ludności żydowskiej w mieście wzrosła do 13 tysięcy. W dniach 27-28 sierpnia 1942 roku Sicherheitsdienst przy udziale niemieckiej żandarmerii, ukraińskiej policji i Wehrmachtu rozstrzelało Żydów w podmiejskich lasach. Według niektórych źródeł 3 tys. osób zdołało zbiec przed egzekucją.