Abdel Rahman est né le dans la ville de Al Gammaliyyah, dans le Gouvernorat de Damiette en Égypte. Il perd la vue durant son enfance, ce qu'il ne l’empêche pas d'obtenir un diplôme de l'Université al-Azhar du Caire dans l'étude du Coran. Il est très influencé par les pensées d'Ibn Taymiyya et de Sayyid Qutb. Il effectue un séjour en prison en raison de ses prises de positions contre le pouvoir égyptien. On l'accuse plus tard d'avoir participé à l'assassinat de Anouar el-Sadate ; faute de preuves, il n'est pas inculpé mais est expulsé d'Égypte.