દક્ષિણ મુંબઈમાં, ભીંડી બજાર વિસ્તારમાં એ સમયે રફી 10 બાય 10ના એરિયાવાળી રૂમમાં રહેતા હતા. બોલીવૂડમાં એમને પહેલો બ્રેક મળ્યો હતો ‘ગાંવ કી ગોરી’ ફિલ્મમાં ‘અજી દિલ હો કાબૂ મેં તો દિલદાર કી ઐસી તૈસી’ ગીત સાથે.