En 1960, Jones se unió al cuarteto de John Coltrane, del cual también eran miembros el bajista Jimmy Garrison y el pianista McCoy Tyner.