Народився 1 липня 1954 року в окрузі Абу-ель-Хасіб, мухафаза Басра, Ірак. Його батько був громадянином Іраку, а мати — громадянка Ірану. У 1977 році закінчив навчання і отримав диплом інженера, і в тому ж році вступив в шиїтську партію Дава, яка виступала проти уряду баасистів. Після того, як Саддам Хусейн заборонив діяльність партії Дава, Абу Махді Аль-Мугандіс втік у 1979 році через кордон в іранське місто Ахваз, де був створений табір для підготовки іракських дисидентів з метою повалити режим Саддама Хусейна. У 1983 році разом з Корпусом Вартових Ісламської революції організовував у Кувейті атаки на посольства країн, які підтримували Ірак в Ірано-іракській війні. У грудні 1983 року втік до Ірану через кілька годин після вибухів у посольствах США та Франції в Кувейті. Пізніше був заочно засуджений до смертної кари судом у Кувейті за організацію терористичних актів. Оселився в Ірані, одружився з місцевою жінкою, отримав іранське громадянство. Пізніше був призначений військовим радником Сил «Кудс», консультуючи їх щодо організації атаки на іракських військових в Басрі.