Han var sønn til Aq Sunqur al-Hajib, som var guvernør for Aleppo under seldsjukksultanen Malik Shah I. Faren ble henrettet for forræderi i 1094, og Zengi ble deretter oppdratt av Kerbogha, guvernøren av Mosul.