Hun begynte sin musikalske karriere på slutten av 1930-tallet og oppnådde sterk popularitet både i USA og Storbritannia på slutten av 1940-tallet. Selv om hun er blitt en svært talentfull pianist er hun best kjent for hennes høye sangstil som inneholder flere lydeffekter. Fra 1950-tallet til 1980-tallet fortsatte Rose å spille på mange av det som er kjent som de beste og mest kjente klubbene i New York.