પોતાના સમયમાં રફી ઘણા સંગીતકારો સાથે જોડાયેલા હતા, જેમાંથી નૌસાદ મુખ્ય હતા. 1950ના અંતમાં અને 1960માં રફીએ ઓ. પી. નૈયર, શંકર જયકિશન, અને એસ. ડી. બર્મન જેવા અન્ય સંગીતકારો સાથે કાર્યું.