I 2004 ble både Sheikh Yassin og hans etterfølger i Gaza, Abdel-Aziz Rantissi, drept. Etter det rykket Haniyeh opp i ledelsen sammen med Mahmoud Zahhar og Sayyid al-Sayyam.