Durante la Revolución de octubre de 1917 fue miembro del Comité Militar Revolucionario de Moscú. En los meses que siguieron a la Revolución de Octubre, Yaroslavski se asoció con la tendencia Izquierda Comunista, que se opuso a la solución negociada de las hostilidades militares con el invasor ejército del Imperio alemán.