بعد تشكيل جماعة التوحيد والجهاد بزعامة أبي مصعب الزرقاوي في عام 2004، وتلى ذلك مبايعته لزعيم تنظيم القاعدة السابق أسامة بن لادن ليصبح تنظيم القاعدة في بلاد الرافدين٬ كثف التنظيم من عملياته إلى أن أصبح واحد من أقوى التنظيمات في الساحة العراقية٬ وبدأ يبسط نفوذه على مناطق واسعة من العراق٬ إلى أن جاء في عام 2006 ليخرج الزرقاوي على الملإ في شريطِِ مصور معلنا عن تشكيل مجلس شورى المجاهدين٬ بزعامة عبدالله رشيد البغدادي٬ بعد مقتل الزرقاوي في الشهر نفسه٬ جرى انتخاب أبو حمزة المهاجر زعيما للتنظيم٬ وفي نهاية السنة تم تشكيل دولة العراق الإسلامية بزعامة أبي عمر البغدادي. وفي يوم الاثنين الموافق 19 ابريل 2010 شنت القوات الأمريكية والعراقية عملية عسكرية في منطقة الثرثار استهدفت منزلا كان فيه أبو عمر البغدادي وأبو حمزة المهاجر وبعد اشتباكات عنيفة بين الجانبين واستدعاء الطائرات تم قصف المنزل ليقتلا معا وتم عرض جثتيهما على وسائل الاعلام وبعد أسبوع واحد اعترف التنظيم في بيان له على شبكة الأنترنت بمقتلهما وبعد حوالي عشرة أيام انعقد مجلس شورى الدولة ليختار أبي بكر البغدادي خليفة له والناصر لدين الله سليمان وزيرا للحرب.