Mahmoud al-Mashhadani syntyi vuonna 1948. Hänen perheensö oli sunnalainen, mutta al-Mashhadani syntyi šiialaisessa kaupunginosassa Bagdadissa. Tarkemmin hän kannatti ainakin myöhemmin salafismia. Mashhadani opiskeli Bagdadin lääketieteellisellä collegella valmistuen vuonna 1972. Valmistumisensa jälkeen al-Mashhadani liittyi Irakin armeijaan, josa hän kohosi lopulta majuriksi. Hän vastusti kuitenkin vuosina 1980–1988 käytyä Irakin–Iranin sotaa, mikä johti kuolemantuomioon. Tuomio tosin lievennettiin 15-vuodeksi vankeutta. Mashhadani joutui vangituksi myös Yhdysvaltojen hyökätessä Irakiin maaliskuussa 2003. Tuolloin syynä olivat hänen väitetyt yhteytensä Ansar al-Islam ja Jaysh Ansar-al-Sunna -järjestöihin.