Da Saffāh døde i juni 754 etter å ha utpekt al-Mansour som arving til tronen, var Abu Muslim og al-Mansour på vei tilbake til Mekka fra årets hajj. Ifølge en rapport gjengitt av at-Tabarī, nølte Abu Muslim med å gratulere al-Mansur med kalifatet. På den annen side sier en annen rapport gjengitt av al-Tabarī at Abu Muslim umiddelbart sverget troskap til al-Mansour og lovet å forsvare ham mot sin onkel 'Abdallah ibn 'Ali, som også gjorde krav på kalifatet. Rapportene er enige om at Abu Muslim senere ble sendt av al-Mansour for å beseire 'Abdallah ibn 'Ali. Da sistnevnte fikk vite om dette, fikk han mange khorasanere i som hær drept, i frykt for at de skulle hoppe av til Abu Muslim.