Największy sukces w karierze Rolf Olinger osiągnął w 1948 roku, kiedy podczas zimowych igrzysk olimpijskich w Sankt Moritz zdobył brązowy medal w biegu zjazdowym ex aequo ze swoim rodakiem Karlem Molitorem. W zawodach tych Szwajcarów wyprzedzili jedynie Francuz Henri Oreiller oraz Austriak Franz Gabl. Był to jedyny start Olingera na igrzyskach olimpijskich. Na rozgrywanych dwa lata później mistrzostwach świata w Lake Placid jego najlepszym wynikiem było dziewiąte miejsce w zjeździe. W swej koronnej konkurencji trzykrotnie zdobywał mistrzostwo Szwajcarii: w 1947, 1948 i 1949 roku. W latach 1948 i 1951 wygrywał także zawody Parsenn-Derby w Davos. Sportową karierę zakończył w pierwszej połowie lat 50.