Første gang Tyner fikk større oppmerksomhet var som pianist i Benny Golsons og Art Farmers Jazztet (1959). Etter yiden med Jazztet ble Tyner medlem i John Coltranes gruppe i 1960. Coltrane hadde da kjent Tyner en tid og spilt en av hans komposisjoner, "The Believer", alt i 1958. , som bestod av Coltrane på tenorsaksofon, Tyner, Jimmy Garrison på bass og Elvin Jones på trummwr, turnerte nesten uten opphold fra 1961 til 1965 og spilte inn flere album som fikk status som klassikere, deriblant , , , , og , på platemerket Impulse!.