Gordon begynte sin karriere som trommeslager for Everly Brothers i 1963 som 17-åring, og han ble snart en av bransjens mest etterspurte studiomusikere i Los Angeles. Han spilte blant annet på The Beach Boys' kritikerroste album i 1966. Hans samarbeide med Eric Clapton begynte i 1969, først som trommeslager i bandet Delaney & Bonnie hvor Clapton var gitarist og senere startet de bandet Derek and the Dominos, hvor de skrev blant annet låten «Layla» sammen. Gordon spiller forøvrig både trommer og pianodelen som avslutter låten.