Etter at as-Saffah – Ibrahims bror – ble utropt til kalif, sverget Abu Muslim troskap til den nye kalifen og overtok stillingen som guvernør i Khorasan. I 750/751 undertrykte Abu Muslim et sjia-opprør i Bukhara og sendte sin general Abu Da'ud østover. Kalif al-Saffah nølte med å henrette Abu Salama, guvernøren av Kufa, på grunn av Abu Muslims innflytelse. Abu Muslim gikk imidlertid ikke bare med på drapet, men innhyret også as-Saffahs leiemorder.