Tidlig i 1966 fikk Brian Wilson anlagt en sandkasse i sin stue, som han så satte et piano oppi og satt der og komponerte det meste av musikken som var tenkt til . «Heroes and Villains» var muligens den første sangen Wilson og Van Dyke Parks komponerte sammen, og ifølge Parks kom åpningslinjene av teksten nesten av seg selv mens han hørte Wilson spille sangen på piano. Det ble laget flere korte seksjoner av sangens hovedtema, og flere av disse ble senere spilt inn. Flere temaer fra sangen dukker opp i andre sanger Wilson og Parks skrev for .