Пра мінулае Абу Умара аль-Багдадзі вядома вельмі мала. Ён быў брыгадным генералам паліцыі Іраку ў часы праўлення адама Хусейна. У 2003 годзе пасля ўварванне кааліцыйных сілаў у Ірак далучыўся да іракскіх паўстанцаў.