Da sønnen var 11 år, fikk han sin første gitar av faren og startet tidlig å spille på skolen. Bandet utviklet seg senere til å bli det ganske suksessfulle bandet Robbie Lane & The Disciples. Senere spilte han i den britisk inspirerte Jack London & The Sparrows, som etter at Palmer hadde sluttet utviklet seg til det kjente bandet Steppenwolf. Tidlig i 1965 sluttet han seg til The Mynah Birds og det var her han møtte Neil Young. Gruppen ble frontet av den senere funk legenden Rick James og fikk kontrakt med Motown Records. Men på grunn av problemer andre bandmedlemmer kom ut for, endte det med at Palmer dro sammen med Young til California for å møte Stephen Stills som de hadde møtt noen år tidligere i Canada.