Van Halen flyttet til California i 1962, der han lærte seg å spille klassisk piano sammen med sin bror Alex Van Halen. Han gikk etterhvert lei av piano og kjøpte seg et trommesett. Men hver gang Eddie var ute, øvde Alex på trommesettet hans. Etter en liten stund fant Eddie ut at Alex var mye bedre enn ham, og han ga trommesettet til broren og kjøpte seg en gitar i stedet.