Tras el exilio de Jomeini, la actividad de oposición de Rafsanyaní al gobierno de la dinastía Pahlavi se acrecentó, lo que lo llevó a ser condenado por sus actividades subversivas clandestinas a penas de prisión en siete ocasiones, sumando 4 años y 5 meses de encarcelamiento entre 1958 y 1978.