Après la victoire de la révolution, il est élu député au Majlis en 1980 et le demeure pendant vingt ans, occupant la fonction de vice-président de l'Assemblée de 1992 à 2000. Durant la guerre Iran-Irak, Rohani est membre du Conseil suprême de défense de 1982 à 1988 et le chef de son Comité exécutif entre 1986 et 1988. Il est également le commandant des Forces aériennes iraniennes de 1986 à 1991.