2002 yılında Rus istihbarat servisi FSB tarafından kendisine gönderilen mektupla zehirlenerek öldürüldü. Rusya ile Çeçenistan arasında 1999 yılında çıkan İkinci Çeçen Savaşı savaşı sonrasında Rusya'nın en çok aranılanlar listesinin başında bulunuyordu. ABD tarafından, Hattab'ın Usame bin Ladin'e bağlı El-Kaide örgütü ile ilişkisi olduğunu iddia edilmiştir.