Entre el 2 y el 7 de septiembre, se celebró el Congreso de La Haya de 1872 en el que se iba a producir la ruptura definitiva entre marxistas y bakuninistas. Los cuatro representantes de la FRE que acudieron a La Haya eran bakuninistas —Farga Pellicer, Morago, N. Alonso Marselau (un antiguo religioso republicano que acabaría en las filas del carlismo) y Alerini (un refugiado de la Comuna de París)— y en representación de la "Nueva Federación Madrileña" fueron Paul Lafargue —que ya no volvería a España— y el director de "La Emancipación", José Mesa. En el Congreso se ratificaron por amplia mayoría las tesis marxistas aprobadas en los anteriores congresos como las relativas a «la constitución del proletariado en partido político» y la conexión entre la lucha económica y la lucha política. Sin embargo, los cuatro delegados de la FRE se alinearon con los bakuninistas por lo que cuando el Congreso decidió expulsar de la Internacional a Bakunin y a su aliado suizo James Guillaume por no haber disuelto la Alianza Internacional de la Democracia Socialista firmaron junto con otros delegados un manifiesto mostrando su disconformidad. Todos ellos, decidieron reunirse en Saint-Imier (Suiza]) para celebrar un Congreso aparte en el que rechazaron la expulsión de Bakunin y de Guillaume, no reconocieron al Consejo General nombrado en La Haya y aprobaron una resolución que recogía las tesis bakuninistas y que contradecía la política defendida por la Internacional al insistir en que «la destrucción de todo poder político es el primer deber del proletariado…» «Todo poder político pretendidamente provisional y revolucionario… no puede ser más que un engaño». También se acordó que las federaciones regionales se relacionarían entre sí al margen del consejo general, con lo que se separaban de hecho de la Internacional. De esta forma se consumó la escisión bakuninista de la Primera Internacional.