ארגון ספטמבר השחור הוקם על ידי אש"ף ביוזמת יאסר ערפאת מתוך כוונה לנקום במלך חוסיין על אירועי ספטמבר השחור במסגרתם נהרגו אלפי פלסטינים בדיכוי מהומות על ידי צבא ירדן. להבדיל מארגונים פלסטינים אחרים, נעשו כל פעילויותיו של ספטמבר השחור במחתרת. לארגון לא היו עם הקמתו כל משרדים, דוברים או מנהיגים רשמיים. ערפאת מינה את צאלח ח'לף, סגנו בפת"ח, אשר נודע יותר בכינויו אבו איאד, לעמוד בראש הארגון. האחריות על העיצוב האסטרטגי של פעילות הארגון הופקדה בידיו של מוחמד אבו נאגאר ואילו המוח מאחורי התקפותיו הראשונות של הארגון היה עלי חסן סלאמה, שכונה "הנסיך האדום".