1864 yılında, Marx Uluslararası Emekçiler Birliği (diğer bilinen adıyla "Birinci Enternasyonal")'e katıldı, ve yönetimine seçildi. Bu organizasyonda Marx, Mikhail Bakunin'in (1814–1876) başını çektiği anarşist kanat ile mücadele içindeydi. 1872'de gerçekleşen Birinci Enternasyonal'in 4. kongresi olan Lahey Kongresi'nde Bakunin'in Marx'ın fikirlerini "otoriter" olarak değerlendirmesiyle iki grup arasında büyük çekişmeler yaşanmış, sonunda Bakunin ve anti-otoriter çevreler kongreden ihraç edilmiştir. Mücadeleden Marx galip çıksa da, 1872 yılında Marx'ın da desteklediği biçimde örgüt merkezinin Londra'dan New York'a taşınma kararı Enternasyonal'in güç kaybetmesine neden olmuştur.