Rosa var sønn av forretningsmannen Ludwig Rose og hans hustru Sophie Becker. Faren tok ham i unge år med seg fra Hamburg til Edinburgh.