વર્ષ 1952માં આવેલી ફિલ્મ 'બૈજૂ બાવરા'થી તેમણે પોતાની અલગ ઓળખ બનાવી. 1965માં પદ્મશ્રીથી નવાજાયેલા રફી સાહેબને છ વાર ફિલ્મફેર એવોર્ડ મળી ચૂક્યો છે. સંગીતના જાણકાર જણાવે છે કે, 'બૈજૂ બાવરા' ફિલ્મ બાદ રફી, નૌશાદના મનપસંદ ગાયક બની ગયા અને તેમણે નૌશાદની ફિલ્મમાં કુલ 149 ગીતો ગાયા, જેમાં 81 સિંગલ ગીત હતા.