1948માં મહાત્માગાંધીની હત્યા બાદ, હુસેનલાલ ભગતરામ-રાજેન્દ્ર ક્રિશ્ના-રફીના જૂથે મળીને રાતો રાત ‘સુનો સુનો એ દુનિયાવાલોં, બાપુજી કી અમર કહાણી’ નામનું એક ગીત તૈયાર કર્યું.[૧૩] વડાપ્રધાન જવાહરલાલ નહેરુ દ્વારા તેમને આ ગીત ગાવા માટે ગાંધીજીના ઘરે બોલવવામાં આવ્યા હતા. 1948માં સ્વતંત્રતા દિને નહેરુ દ્વારા રફીને મેડલથી નવાજવામાં આવ્યા હતા. 1949માં રફીએ સંગીતકાર નૌસાદ સાથે ચાંદની રાત,દિલ્લગી, અને શ્યામ સુંદર સાથે દુલારી , બાઝાર તેમજ હુસેનલાલ ભગતરામ સાથે મિનાબાજાર માં વ્યક્તિગત ગીતો પણ ગાયા. "હિન્દુસ્તાન કે હમ હૈ" રફીનું નૌસાદ સાથેનું પ્રથમ ગીત હતું, જેમાં શ્યામ કુમાર, અલાઉદ્દીન અને અન્ય પણ હતા, જે એ.આર. કારદેરની ફિલ્મ પહેલે આપ માંથી હતું (1944) આજ સમયગાળા દરમિયાન રફી 1945માં ગાંવ કી ગોરી ફિલ્મ માટે "અજી દિલ હો કાબુ મેં" ગીત રેકોર્ડ કર્યું હતું. તેમણે આ ગીતને હિન્દીભાષામાં પોતાનું પ્રથમ ગીત ગણાવ્યું.[૧૧]