Учествовао је у основању Нацистичке партије. Био је предводник милицијских одреда из којих ће се касније изродити СА. Ове јединице пружиле су подршку Адолфу Хитлеру. Био је у затвору након неуспешног Пивничког пуча а након ослобођења одлази у Боливију где је у периоду између 1925. и 1930. био војни инструктор. Хитлер му је потом наредио да реорганизује СА трупе. Хитлер се супростављао Ремовим настојањима да СА замени редовну војску или да јој се прикључи. У Ноћи дугих ножева страдао је и Рем заједно са руководством СА.