Billy Joel ble født i Bronx. Da han var ett år gammel, flyttet familien til forstadsområdet Hicksville på Long Island utenfor byen Oyster Bay, hvor han vokste opp sammen med sin kusine Judy, som hans foreldre hadde adoptert.