1973年埃及伊斯兰圣战组织成立，扎瓦希里当时攻读埃及最具盛名的开罗大学医科，基于对宗教的热忱，加入该组织。1974年毕业，后获外科医学硕士学位。不久，自行开业。1981年该组织刺杀埃及总统沙达特时，有301人落网，扎瓦希里也在内，但是扎瓦希里获法官判定与刺杀案无关连，只以他非法持有枪械，判处有期徒刑三年。而埃及伊斯兰圣战组织领袖阿尔祖马被判终身监禁，故扎瓦希里成为第二任也是最后一任的领导人。1985年，扎瓦希里出狱，并在巴基斯坦重操旧业当起外科医师，专门为1979年阿富汗战争的伤兵进行紧急救护