Gregg Rolie, ilk müzik grubu olan William Penn grubuna 1965 yılında katıldı. Bu grupta 1 yıl çaldıktan sonra, Carlos Santana'yla ve yanında 5 kişiyle beraber Santana'yı kurdu. Grup 1969 yılında Woodstock Festivali'nde ünlü oldu. Gregg Rolie, bu grupta en çok yazdığı ve söylediği "Black Magic Woman"'la tanınmaktadır. Carlos Santana'yla fikir farklılığı yüzünden, 1971 yılında gruptan ayrıldı. Evi olan Seattle'a geri döndü; ve burada babasıyla restoran açtı. Nitekim, bu restoranta işler yürümedi.