Han er nevø av den amerikanske R & B-sangerinne og skuespillerinne Ruth Brown. Rakim vokste opp i Wyandanch, New York, der han utviklet mye av sitt talent. Rakim ble involvert i New York sin hiphop-scene i ung alder. Eric B brakt Rakim til Marley Marl hus for å spille inn "Eric B. is president." Marley og MC Shan personlig visste Eric. Men de visste ikke at Rakim, som nettopp var ferdig me high school på den tiden, var på vei til college, men sluttet for å spille inn sammen med Eric B. Når Rakim fylte 16, ble han med i The Nation of Gods and Earths (også kjent som den 5 Percent Nation), der endret han navnet til Rakim Allah.