Jamal comenzó a tocar el piano a los tres años, empezó su formación a los siete y a los once ya tocaba profesionalmente bajo el nombre de Fritz Jones (aunque durante la Segunda Guerra Mundial también se hacía llamar "Freddie") siendo influido por artistas como Erroll Garner, Art Tatum, Teddy Wilson, Count Basie y Nat King Cole.