I det kaos som oppstod etter det nye dynastis tiltreden var Nord-Afrika blitt erobret av de flyktende umayyadiske emirer og andre stedfortredere på dette kontinentet og nå etterstrebet de selvstendighet. Etter en tid oppdaget Abd ad-Rahman igjen at hans liv stod i fare, og han flyktet derfor enda lengre vestover og havnet hos berberstammene i Mauretania. Under sin flukt ble han forfulgt av noen andre av unayyadene. Under alle sine viderverdigheter, som hentet fra , hentet Abd ad-Rahman styrke i den profeti som hans fars onkel, Maslama, hadde kommet om at det var han som skulle få familiens lykke til å vende.