રફીએ નૌશાદના સંગીતમાં ગીતો ગાવાની શરૂઆત કરી એ સમયમાં જ ફિલ્મકાર મેહબૂબની ફિલ્મોમાં પણ યાદગાર ગીતો ગાયાં હતાં. મેહબૂબની ૧૯૪૬ની ફિલ્મ ‘અનમોલ ઘડી’નું ‘તેરા ખિલૌના ટૂટા બાલક...’ હિટ રહ્યું હતું અને ૧૯૪૭ની ફિલ્મ ‘જુગ્નૂ’માં ‘યહાં બદલા વફા કા...’ એ સમયનાં ફેમસ ગાયિકા નૂરજહાં સાથે ગાયું હતું. જોકે દેશની સ્વતંત્રતા બાદ નૂરજહાંએ પાકિસ્તાનમાં જઈને પ્લેબૅક સિંગર અહમદ રશ્દી સાથે જોડી જમાવી હતી, પરંતુ મોહમ્મદ રફીએ લાહોરથી પોતાના પરિવારને મુંબઈ બોલાવી લીધો હતો અને છેલ્લા શ્વાસ સુધી ભારતમાં જ રહ્યા હતા.