Con todo, el aspecto más importante que marcó el califato de Harún al-Rasid fue la cuestión sucesoria. En el año 803, justo antes de asestar su formidable golpe contra los Barmáquidas, el califa hizo públicos los términos en que habría de producirse la sucesión: uno de sus hijos, Al-Amín, habría de convertirse en califa con el apoyo del ejército estacionado en Bagdad; su segundo hijo, Al-Mamún, habría de recibir la provincia de Jorasán, y aun cuando debía de prestarle fidelidad a su hermano su gobierno era independiente en la práctica. Apenas dos años después de la muerte de su padre, sus dos hijos se enzarzaron en una guerra civil de catastróficos resultados, conocida como Guerra Civil Abásida o Cuarta Fitna. El episodio culminante de esta guerra fue el asedio a Bagdad por parte de las tropas de Al-Mamún (813-833), que se rindió en 813. Esta rendición no trajo el final de la guerra, que se alargó hasta el 819 por la decisión del califa de nombrar como heredero a Ali ibn Musa, conocido como Al-Rida (‘el elegido’) por ser un descendiente directo de Alí. Al final, y por razones algo oscuras, el propio califa dio fin a la conflagración. Tras deshacerse de los elementos persas que hasta entonces conformaban su círculo político decidió regresar a Bagdad. Al-Rida fue «convenientemente» envenenado (es considerado mártir por los chiíes duodecimanos) y la autoridad central restituida.