Joshi holdt sin første offentlige opptreden som 19-åing. I 1943 flyttet han til Mumbai. Han arbeidet som musiker i All India Radio. I 1944 spilte inn sin første plate med sanger på kannada og hindi.