Sven-Bertil Taube tilhørte en gren av den baltertyske adelige Taube-familien, som ble anerkjent i Sverige på midten av 1600-tallet. I en alder av 14 år, begynte han å spille gitar. På reiser gjennom Europa utviklet han en interesse for folklore og folkemusikk. Han deltok på konserter i Sveriges Radio mens han studerte på Beskowska skolan i Stockholm. Etter disse studiene fortsatte Taube sin skolegang på Cherry Lawn School i Darien i Connecticut I USA, hvor han tok eksamen i 1954. I USA spilte han forøvrig inn sin første LP-plate 1954. I 1956 reiste Taube til Madrid for gitarstudier.