Originalmente conocido como Organización para el Monoteísmo y la Yihad (, ), surgió como una organización terrorista próxima a Al Qaeda para hacer frente a la invasión de Irak (2003), siendo dirigida por Abu Musab al Zarqaui. Tras su muerte en 2006, el nuevo líder, Rashid al-Baghdadi, bajo la tutela de Osama bin Laden, se expandió por las gobernaciones de Ambar, Nínive, Kirkuk y en gran parte de Saladino, así como en menor medida Babilonia, Diala y Bagdad. Durante este tiempo se proclamó como Estado Islámico de Irak, y su cuartel general se encontraba en la ciudad de Baquba.