Родился в Египте в семье профессора, его дедушка Алляма Абдульваххаб Аззам был послом в Пакистане. В 1974 году окончил медицинский факультет Каирского университета по специальности хирург. В 70-е годы Завахири стал одним из лидеров египетской экстремистской группировки «Исламский джихад». В 1981 году был арестован по подозрению в причастности к убийству президента Анвара Садата. Ему предъявили обвинение в хранении огнестрельного оружия. Отсидев три года, Завахири отправился в Афганистан в качестве моджахеда. Позднее возглавил группу из примерно тысячи «египетских афганцев», влившихся в ядро «Аль-Каиды». Отмечалось, что как египетский лидер джихада он входил в Шуру при бен Ладене. В Египте Айман аз-Завахири заочно приговорён к смертной казни.