V roce 1933 píše Osip Mandelštam antistalinský epigram „My živjom, pod soboju ne čuja strany…“ (Žijeme a necítíme pod sebou svou zemi…), který byl také popsán jako „šestnáctiřádkový rozsudek smrti“. Epigram byl pravděpodobně inspirován Mandelštamovým pobytem na Krymu, kde autor viděl na vlastní oči důsledky „velkého hladomoru“ způsobeného Stalinovou politikou kolektivizace. Za tento epigram byl v květnu následujícího roku zatčen. Nebyl nicméně odsouzen k smrti nebo nuceným pracím v gulagu, ale k vyhnanství ve městě Čerdyň. To bylo považováno téměř za zázrak, který je historiky obvykle vysvětlován tím, že měl Stalin na básníkově osudu osobní zájem. Po Mandelštamově pokusu o sebevraždu mu byl trest zmírněn na vyhnanství z velkých ruských měst, jinak si mohl své místo pobytu zvolit sám. Spolu s manželkou Naděždou se tedy přestěhovali do Voroněže, na jihozápad evropské části Ruska. Většina básní z tohoto období odráží snahu básníka sužovaného vězením a nemocemi naplno se vyjádřit a říct své poslední slovo. Napsal také několik básní oslavujících Stalina (př. „Óda na Stalina“).