તેમના સમકાલીન પુરુષ ગાયકોમાંથી મુકેશ, મન્ના ડે, કિશોરકુમાર અને મહેન્દ્ર કપૂર તેમ જ લતા અને આશા ભોસલે સાથે રફીએ સહગાયકોની રેન્જ અને મૂડ પ્રમાણે સુંદર ગીતો ગાયાં છે. કિશોરકુમાર તો ઍક્ટર પણ હતા. તેથી રફીએ તેમના માટે તો પ્લેબૅક પણ આપ્યું હતું. રફીએ સૌથી વધુ વરાઇટી ડ્યુએટ ગીતો આશા ભોસલે સાથે અને ત્યાર બાદ મન્ના ડે અને લતા મંગેશકર સાથે ગાયેલાં છે.