Den Durchbruch als Schauspieler ebnete Rahim 2009 die Titelrolle in Jacques Audiards "Ein Prophet", für das Abdel Raouf Dafri das Filmskript verfasste. Audiard hatte Rahim bei einer gemeinsamen Autofahrt von einem anderen Filmset kennengelernt. "„Ich sah ihn an und das war es, obwohl ich meinen Instinkten nicht vertraute und 40 weitere Schauspieler für die Rolle vorsprechen ließ, bevor ich ihn auswählte“", so Audiard. "„Als ich in seine Augen sah, erkannte ich keine Melancholie, keine Tragik, nur jemanden sehr Aufrichtigen, [...] voller Leben“", so der Regisseur. In dem Krimidrama übernahm Rahim an der Seite von Niels Arestrup die Hauptrolle eines jungen arabischstämmigen Gefängnisinsassen, der mit Hilfe der korsischen Mafia zum einflussreichen Kriminellen aufsteigt. "Ein Prophet" feierte seine Premiere 2009 auf den 62. Filmfestspielen von Cannes, wo der Film großes Lob seitens der Kritiker erfuhr und mit dem Großen Preis der Jury ausgezeichnet wurde. Ebenso gepriesen für seine Schauspielleistung wurde der noch unbekannte Tahar Rahim in der Rolle des Malik, die die französische Tageszeitung Le Monde als "„atemberaubend“" beschrieb, während die Libération von einer "„verblüffenden Offenbarung“" sprach. Rahim wurde daraufhin als Mitfavorit auf den Darstellerpreis gehandelt, der aber an den Österreicher Christoph Waltz ("Inglourious Basterds") verliehen wurde. Monate später wurden ihm der Europäische Filmpreis als "Bester Darsteller" und zwei Césars zuteil. Es war das erste Mal in der Geschichte des französischen Filmpreises, dass die Auszeichnungen für den besten Hauptdarsteller und besten Nachwuchsdarsteller an eine Person vergeben wurden. Bei den Dreharbeiten zu dem Film lernte er auch seine Partnerin Leïla Bekhti kennen, mit er seit 2010 verheiratet ist.