Al-Jaabari studerte historie på Det islamske universitet i Gaza. Han ble her aktiv i politikk og meldte seg inn i Fatah. Al-Jaabari ble i 1982 anholdt og satt i fengsel de følgende tretten år. I fengselet ble han kjent med noen av Hamas' grunnleggere, som sonet på samme sted: Abd al-Aziz Rantissi, Nizar Rayyan og Salah Shehadeh.