Karaki ble født i 1962 i Sør-Libanon. Etter å ha fullført universitetsstudier sluttet Ali Karaki seg til Hizbollahs rekker under Den libanesiske borgerkrig.