Han skrev sitt første dikt i 1910, like etter at han var ferdig med studiene sine. Etter det skrev han en diktsamling som kom ut i 1913, , og stiftet bekjentskap med de senere forfattere Nikolaj Gumiljov og Anna Akhmatova, som sammen med Mandelstam stiftet akmeisterne.