1970'lerin sonunda, Müslüman Kardeşler'in şiddet eylemlerini bırakmasının ardından, Mısır'daki silahlı öğrenci gruplarını toplayan bir çatı örgüt sıfatıyla Ömer Abdurrahman tarafından kuruldu. Ömer Abdurrahman, New York'taki Dünya Ticaret Merkezi'ne düzenlenen saldırıyla bağlantısı olduğu gerekçesiyle 24 Haziran 1993 tarihinde Amerika Birleşik Devletleri'nde tutuklandı, 1 Ekim 1995'te ise ömür boyu hapis cezasına çarptırıldı. 1997'de Mısır hükûmeti ile anlaşarak aldığı ateşkes kararı, grubun ikiye ayrılmasına yol açtı. Mustafa Hamza önderliğindeki kanat ateşkesi desteklerken, Rifai Taha Musa önderliğindeki kanat silahlı mücadelenin devam etmesi gerektiğini savunmaktaydı. 2003'te yapılan açıklamayla ise örgütün tümünün şiddet olaylarına son verdiğini duyuruldu. Ağustos 2006'da yayınlanan el-Kaide'nin ikinci seviyedeki yöneticisi Eymen ez-Zevahiri'nin video kaydında İslam Cemaati'nin el-Kaide tarafından desteklendiği belirtilmekteydi. Ancak bu ifadeler, İslam Cemaati'nin bazı üst düzey yöneticileri tarafından kabul edilmedi ve örgütün bazı isimlerinin kendi özgür düşünceleri kapsamında el-Kaide ile bağlantılı olabilme ihtimali olsa da tamamının el-Kaide tarafından desteklenmediği ve birlikte hareket etmediklerini ifade edildi.