Prawdopodobnie urodził się w Gazie. Z wykształcenia inżynier (ukończył studia na Uniwersytecie Kairskim). W latach 1952–1956 przewodniczący Ligi Studentów Palestyńskich. W 1956 roku wziął udział w wojnie sueskiej. W 1957 roku wyjechał do Kuwejtu, gdzie pracował jako inżynier. W 1958 roku współzałożyciel al-Fatah (Palestyński Ruch Wyzwolenia Narodowego) i jej przewodniczący. W kolejnych latach organizował palestyńską partyzantkę w Jordanii. W 1968 roku wszedł do Organizacji Wyzwolenia Palestyny (OWP) na czele której stał w latach 1969–2004. Po 1970 roku opuścił Jordanię po porażce w wojnie z tamtejszym rządem (Czarny Wrzesień). Wraz ze strukturami OWP przeniósł się do Libanu. W 1974 roku stanął na czele palestyńskiej delegacji na XXVII sesję ONZ, na której uznano OWP za jedyne legalne przedstawicielstwo narodu palestyńskiego (uzyskał dla OWP status obserwatora przy ONZ).