By Rise var keeper på Rosenborg fra 1977 til 1995. Han debuterte som keeper i toppdivisjonen 8. august 1977, bare 16 år gammel. Ola By Rise spilte hele 457 kamper for Rosenborg. 346 av kampene var seriekamper i toppserien, noe som først ble forbigått av Roar Strand i den andre serierunden i sesongen 2006. Som Rosenborg-spiller var han med på å vinne syv seriegull (1985, 1988, 1990 og 1992-1995) og fire norgesmesterskap (1988, 1990, 1992 og 1995).