Internationaali päätyi viimein hajaannukseen Pariisin kommuunin epäonnistuttua 1871 ja monen sen jäsenen siirtyessä Haagin kongressissa 2. syyskuuta 1872 venäläisen anarkistin Mihail Bakuninin leiriin. Bakunin kannattajat jäivät kongressissa alakynteen. Engels ehdotti, että internationaali siirtää päämajansa New Yorkiin. Ehdotus meni läpi. Tämä oli internationaalille kuolinisku. Marx halusi irrottautua internationaalista sillä katsoi sen vievän liikaa aikaa kirjoitustyöltään. Marxin poistuttua näyttämöltä kuihtui Internationaali vähitellen pois.