Rouhani starte sin religiøse studie i 1960, først ved Semnan universitetet, før han flyttet til Qom universitetet i 1961. Han deltok i studier med framtredene studenter, som inkluderte Mohammad Mohaghegh Damad, Morteza Haeri Yazdi, Mohammed-Reza Golpaygani, Soltani, Mohammed Fazel Lankarani, og Mohammad Shahabadi. I tillegg studerte han moderne kurs, studerte han juss, og fikk en bachelor grad ved universitetet i Teheran i 1972.