Han vokste opp i daværende Sund kommune, nå Øygarden kommune på Sotra utenfor Bergen, begynte å spille trekkspill, en familietradisjon, og hadde som fireåring sin første offentlige opptreden. Som tiåring begynte han å spille gitar. Sammen med broren Johannes og sanger/gitarist Jan Spurkeland ble etter hvert Kauslands Trio dannet. Jazzinteressen startet i tolvårsalderen med Barney Kessel og Wes Montgomery som de første store inspiratorene. Etter videregående skole flyttet han til Bergen og begynte studier ved Bergen Musikkonservatorium med sikte på å bli musikklærer. Studiene ble avbrutt etter ett år, musikertilværelsen tok det meste av tiden. Han kom fort inn i musikermiljøet i Bergen og var aktiv i jazzmiljøet og datidens restaurantmusikermiljø. Som 17-åring mønstret han på på MS «Oslofjord» som musiker for å komme til New York.