Přesné datum narození budoucího chalífy Hárúna není s jistotou známo. Nejčastěji se uvádí 17. březen 763, případně 15. únor 766, v jiných pramenech jsou však uváděna i jiná data. Narodil se v městě Rajj v dnešním Íránu, kde tou dobou jeho otec al-Mahdí získával politické zkušenosti jako místokrál Chorásánu a východní části chálífátu. Perský šlechtic Jahjá íbn Chálid ibn Barmak se ujímá jeho výchovy a Jahjův syn Fadl se stává soukojencem mladého prince a z pohledu islámského práva jeho bratrem. V roce 768 se Hárun s rodiči vrací do Bagdádu, kde se jeho otec věnuje rozsáhlé výstavbě nové sídelní čtvrti na východním břehu řeky Tigris. Roku 772 se rodina znovu stěhuje, tentokrát do syrské Raqqy, která se má stát sídlem abbásovské armády pro boje s Byzancí.