הארגון כלל במקור ארגוני פועלים בריטיים, אנרכיסטים, סוציאליסטים צרפתים, ורפובליקנים איטלקים, והוא אורגן בידי קבוצה קטנה שהתקבצה סביב קרל מרקס. אף על פי שלקרל מרקס עצמו לא היה חלק בארגון הישיבה, הוא נבחר לאחד מ-32 חברי המועצה הכללית הזמנית ובמקביל קיבל על עצמו את הנהגתו של הארגון. מאוחר יותר, חילוקי-דעות בין מרקס לבין מיכאיל בקונין, הבולט שבאנרכיסטים מקרב חברי האינטרנציונל, הובילו לפיצול בין "המרקסיסטים" ל"בקוניניסטים", ובקונגרס האג תומכי בקונין גורשו מהאינטרנציונל. כדי לשמור את שליטתו בארגון העביר אותו מרקס לניו יורק ב-1872. הארגון התפרק ארבע שנים מאוחר יותר, בוועידה בפילדלפיה בשנת 1876. ניסיונות להחיות את הארגון במשך חמש השנים הבאות כשלו.