લક્ષ્મીકાંત-પ્યારેલાલની (L-P) જોડીએ પણ તેમની પ્રથમ ફિલ્મ પારસમણિ (1963)થી જ રફીને પોતાના ગાયક તરીકે રાખ્યા હતા. રફી અને એલ-પી (L-P) બંનેને દોસ્તી (1964) ફિલ્મના "ચાહુંગા મૈં તુઝે શામ સવેરે" ગીત માટે ફિલ્મફેર પુરસ્કાર પણ મળ્યો હતો. રફીએ એલ-પી (L-P) માટે કુલ મળીને 369 જેટલા ગીતો (186 વ્યક્તિગત) ગાયા હતા.[૧૮] 1950 અને 1970ના સમયગાળા વચ્ચે બોલીવુડમાં સૌથી વધુ માગ ધરાવતા ગાયક રફી હતા.[૨૩] તેમણે હિન્દી ફિલ્મોમાં અનેક અભિનેતાઓ માટે ગીતો ગાયા.[૨૪] 1965માં ભારત સરકાર દ્વારા તેમને પદ્મ શ્રી પુરસ્કારથી નવાજવામાં આવ્યા. 1968માં 7" ની રજૂઆત સમયે બે હિન્દી ગીતોને અંગ્રેજીમાં રેકોર્ડ કર્યા હતા. 1960ના અંત ભાગમાં તેઓ મોરેશિયસની મુલાકાતે હતા, તે સમયે તેમણે ક્રિયોલ સાથે પણ એક ગીત ગાયુ હતું.[૮] સાથો સાથ રફીએ બે અંગ્રેજી આલ્બમ પણ આપ્યા હતા. જેમાંથી એક પોપ હિટ્સ છે. બોલીવુડમાં આલાપવું એ માત્ર કિશોર કુમાર સાથે જોડાયેલું હતું, પરંતુ તેમણે ભારતીય ફિલ્મ ઉદ્યોગમાં આ આલાપને પાર્શ્વગાયકી તરીકે રજૂ કર્યું. રફીએ તેમના કેટલાક ગીતોમાં આવો આલાપ આપ્યો, જેવા કે "હેલ્લો સ્વીટી સેવન્ટીન" (આશા ભોસલે સાથેનું યુગલગીત), "ઓ ચલે હો કહા", "દિલ કે આયિને મેં" અને "ઉનસે રિપ્પી ટિપ્પી હો ગયે" (ગીતા દત્ત સાથેનું યુગલગીત) વિગેરે.