ખૈયામની સંગીતમય સફરની શરૂઆત 17 વર્ષની ઉંમરથી થઈ હતી. . ૧૯૫૩ની રીલિઝ થયેલી ફિલ્મ 'ફૂટપાથ'થી તેઓ બોલીવૂડમાં આવી ગયા.