Гюстав Эрве занимал в соцпартии крайне левые позиции. Наряду с синдикализмом, его основными идеями являлись интернационализм, пацифизм и антимилитаризм. 20 июля 1901 года Эрве опубликовал в социалистической газете "Travailleur socialiste de l’Yonne" — "Социалистической рабочий Йонны" — нашумевшую антимилитаристскую статью к годовщине Ваграмского сражения. Публикация была расценена как «национал-предательская», вызвала скандальный резонанс и привела к запрету для автора на преподавание истории.