Gärdestad vokste opp i Sollentuna nord for Stockholm, og var sønn av Arne og Margit Gärdestad. Han komponerte sin første melodi som seksåring, «Sollentunavalsen». Han deltok som åtteåring i Sveriges Televisions der han spilte egen musikk på trekkspill. Gärdestad ble kjent som 15-åring med sitt vinnende vesen og sine glade, optimistiske ungdomsmelodier.