૧૯૪૯થી નૌશાદના સંગીતમાં ‘ચાંદની રાત’, ‘દિલ્લગી’ અને ‘દુલારી’, ‘બાઝાર’માં શ્યામ સુંદર અને ‘મીના બાઝાર’માં હુસ્નલાલ ભગતરામના સંગીતથી ઓપતી ફિલ્મોમાં સોલો ગીતો ગાઈને રફીએ પ્લેબૅકમાં સિક્કો જમાવવાની શાનદાર શરૂઆત કરી હતી. શરૂઆતમાં રફી કે. એલ. સાયગલ અને જી. એમ. દુરાની જેવા ગાયકોના અવાજથી પ્રભાવિત હતા અને પોતાની ગાયકીમાં તેમની સ્ટાઇલ લાવવાના પ્રયાસો કરતા હતા અને તેમના આઇડૉલ્સ સાથે પણ ગીતો ગાયાં હતાં. ત્યાર બાદ રફીએ ૧૯૫૦-૭૦ના બે દાયકામાં નૌશાદ ઉપરાંત ઓ. પી. નૈયર, શંકર-જયકિશન, એસ. ડી. બર્મન અને રોશન સાથે સંગીતના તમામ મૂડનાં એક-એકથી ચડિયાતાં ગીતો ગાવાની લાંબી હારમાળા સર્જી પોતાનું નામ બનાવ્યું હતું.