I 1950 flytta han tilbake til New York, der han en periode sang med Count Basies orkester. Det førte til at han i 1951 fikk kontrakt med brødrene Ahmet og Nesuhi Ertegün på deres nyetablerte Atlantic Records. Her spilte han inn blant annet slagere som «Chains of Love» (1950) og «Sweet Sixteen» (1952). I 1954 fikk karrieren en topp med «Shake, Rattle and Roll», som blei skrevet spesielt for ham. Den slo godt an hos et ungt publikum og var starten på en ny og råere type populærmusikk. En coverversjon med Bill Haley and His Comets blei enda mer populær. Generelt var det vanlig at populære rhythm-and-blues-sanger med svarte artister blei nyinnspilt med hvite artister for å nå et videre publikum. De «hvite utgavene» var gjerne mer «polert» både i tekst og rytme. Men disse innspillingene var også en inngangsport til originalmusikken.