Ellis luego se unió al Oscar Peterson Trio (reemplazando a Barney Kessel) en 1953, formando a lo que Scott Yanow más tarde se referiría como "uno de los tríos de piano, guitarra y bajo más memorables en la historia del jazz".