Рем је учествовао у пропалом Пивничком пучу 1923. године. Након тога је осуђен на петнаест месеци затвора због издаје, али је пуштен на условну слободу. Хитлер је сваког ко је стајао уз њега у том покушају пуча држао високо, као особе од највећег поверења. Рем је од Хитлера, који је био у затвору, добио одобрење да оснује и развија СА, паравојну јединицу Нацистичке партије. Међутим, када је Хитлер пуштен на слободу, није био задовољан Ремовим радом. Рема је ово погодило, напустио је Нацистичку партију и постао сарадник Боливијске армије са чином потпуковника. Након побуне против боливијске власти и успона Нацистичке партије у Немачкој, Рем је одлучио да се врати у Немачку, на Хитлерову жељу. После повратка у странку, од Хитлера је добио позицију начелника штаба СА.