En diciembre de 1961, con veinticuatro años, se unió a The Hawks, un grupo de respaldo del cantante Ronnie Hawkins cuya configuración fue cambiando con el tiempo hasta conformar la formación más conocida e integrada por el bajista Rick Danko, el guitarrista Robbie Robertson, el pianista Richard Manuel y el batería Levon Helm.