Kort etter sin trosbestigelse satte han seg fore å forene under seg alle de muslimske områder. Han gikk i den forbindelse til kamp mot de sjiittiske fatimidene, som var fiendtlig innstilt mot de abbasidiske kalifer. De seldsjukiske sultane hadde under Tughrul Beg inngått forbunmd med kalifen.