Judy Garland spilte inn sangen i 1942. Glenn Millers versjon havnet året etter på førsteplass på -listen, og lå på listen i til sammen 14 uker. Margaret Whitings versjon, som hun spilte inn sammen med Freddie Slack Orchestra, gikk samme året inn på en tiendeplass på -listen. Frank Sinatra spilte inn sangen to ganger; først som en ballade i 1946 og deretter en lett swingversjon som ble utgitt i 1961. Han fremførte også en versjon av sangen, med noe endret tekst, på festen han arrangerte kvelden før John F. Kennedy skulle innsettes til USAs neste president. Sangen var for anledningen omdøpt til «That Old Jack Magic». I 1950 spilte Billy Daniels inn sangen og ble deretter kjent under kallenavnet «The Old Black Magic Man». Sammy Davis jr.s versjon av sangen lå i 1955 på -listen i seks uker, med en 16.-plass som høyeste plassering. Han fremførte også sangen da han hadde en gjesterolle i TV-serien . Sangen har også blitt spilt inn av blant annet Ella Fitzgerald, Johnny Mathis, Bing Crosby, Tom Jones, Ray Anthony, Miles Davis, Tony Bennett, Rod Stewart, Doris Day, Glenn Miller, Rosemary Clooney, Van Morrison, The Platters, Mel Tormé og Peggy Lee. Johnny Mercer, som skrev teksten til sangen, spilte den inn i 1974.