Mandelstam no era un conformista, i les seves les tendències "anti-establishment" no es dissimulaven pas massa. S'oposava al govern, cada cop més totalitari, de Ióssif Stalin. A la tardor de 1933, publicà el poema que hom coneix com a "Epigrama de Stalin". El poema, que criticava bruscament el "Muntanyès del Kremlin" (en referència als orígens caucàsics de Stalin, atès que el Caucas és una zona molt muntanyosa), seria descrit en qualsevol altre lloc com a "setze línies de pena de mort". Estava inspirat probablement per la visió que Mandelstam havia tingut dels efectes de la Gran Fam d'aquell any, durant les seves vacances a Crimea. Això era el resultat de la col·lectivització de Stalin a l'URSS i la seva voluntat d'exterminar els "kulaks".