Med šolanjem na srednji šoli Cubberley High School je Rolie igral v skupini »William Penn and his Pals«. Leto po diplomi, leta 1965 se je Rolie pridružil Carlosu Santani in ostalim, s katerimi je ustanovil zasedbo »Santana Blues Band«, ki se je kasneje preimenovala v »Santana«. Kot ustanovni član skupine je bil Rolie del prvega vala uspeha skupine, med drugim je s skupino nastopil na festivalu Woodstock leta 1969 in bil eden izmed ključnih članov pri snemanju nekaterih hit albumov skupine. Najbolj je znan kot originalni glavni vokalist skupine Santana. Njegov vokal se je pojavil v skladbah »Black Magic Woman«, »Oye Como Va«, »No One To Depend On« in »Evil Ways«. Postal je znan tudi po obvladanju Hammond B3 orgel. Zaradi nesoglasij o glasbeni usmeritvi skupine, med njim in Carlosom Santano, je Rolie leta 1971 zapustil skupino.