નૈસાદના મતે રફી નૌસાદના પિતાની ભલામણનો એક પત્ર લઈને તેમની પાસે આવ્યા હતા.[૧૬] નૌસાદ માટે રફીએ ગાયેલું સૌપ્રથમ ગીત 1944માં ફિલ્મ પહેલે આપ નું "હિન્દુસ્તાન કે લીયે હમ હૈ" ("વી બિલોંગ ટુ હિન્દુસ્તાન") હતું. પ્રથમ યુગલગીત એ અનમોલ ગાંધી ફિલ્મ (1946)નું હતું. રફી પહેલા નૌસાદના પ્રિય ગાયક તલત મહેમૂદ હતા. એક વાર નૌસાદે તલતને રેકોર્ડિંગ દરમિયાન ધૂમ્રપાન કરતા જોઈ લીધા હતા. આ વાતથી તેઓ ભારે ગુસ્સે થયા અને બૈજુ બાવરા ના તમામ ગીતો ગાવા માટે તેમણે રફીને રાખ્યા.[૧૨] 1949માં "સુહાની રાત ઢલ ચૂકી" ગીત [૧૭]રફીએ નૌસાદ સાથેની બેલડીમાં આપ્યું, જેણે તેમની પૂર્વેની શાખને ફરી પ્રસ્થાપિત કરી અને હિન્દી સિનેમામાં પાર્શ્વ ગાયક તરીકેની ખ્યાતિ આપાવી.[૧૧] બૈજુ બાવરા (1952)ના ગીતો "ઓ દુનિયા કે રખવાલે" અને "મન તડપત હરિ દર્શન કો આજ" એ રફીની ઓળખ બન્યા.[૧૦] રફીએ નૌસાદ માટે કુલ 149 ગીતો ગાયા.[૧૮]