Etter at bolsjevikene kom til makten ble Trotskij utpekt som folkekommissær for utenriksvesenet, hvor hans viktigste oppgave var å få forhandlet fram en fredsavtale med Tyskland og dets allierte. Den 10. februar trakk han seg tilbake fra samtalene, noe som provoserte fram en tysk invasjon 18. februar. 3. mars ble det likevel signert en fredsavtale, den såkalte Brest-Litovsk-avtalen. Etter dette forlot Trotskij posten som utenriksminister for å bli folkekommissær for krigen. Trotskij hadde, som grunnlegger og leder for den røde hær, og som begavet taler, mye av æren for at de seiret både over den hvite hær, og i borgerkrigen som fulgte. Krigen etterlot seg titusener av døde i Russland og Ukraina. Etter Lenins sykdom og død så Josef Stalin en mulighet for å konsolidere sin makt i partiet og regjeringen. På dette tidspunktet var det ikke mulig, eller ønskelig, for Trotskij å aktivt motarbeide Stalin. På partiets tolvte partikongress i 1923 var Trotskij taus, også i det omstridte spørsmålet om Lenins testamente som oppfordrer til å fjerne Stalin, men som også inneholder kritiske bemerkninger om Trotskij for overdreven selvfølelse og svært stor forkjærlighet for rent administrative tiltak. Trotskij tapte med dette sin siste sjanse til å stå i mot Stalin som sammen med Lev Kamenev og Grigorij Sinovjev tok over lederskapet i partiet etter dette. Trotskij og hans tilhengere grunnla venstreopposisjonen og kjempet mot Stalins lederskap og linje innenfor Kommunistpartiet i flere år. Trotskij lanserte for eksempel teorien om «permanent revolusjon», i sterk kontrast til Stalins politikk for å bygge «sosialisme i ett land». Denne ideologiske uenigheten dannet store deler av grunnlaget for den politiske konflikten mellom Stalin og Trotskij, som kulminerte i at Trotskij ble ekskludert fra partiet den 12. november 1927 (noe som ga Stalin full kontroll over partiet). Han ble plassert i Alma Ata i eksil den 31. januar 1928. I 1929 ble han utvist fra Sovjetunionen.