Goldwater var født i Phoenix, mens staten Arizona fortsatt var del av Arizona Territory. Hans far var opprinnelig jøde, men konverterte til kristendommen for å gifte seg med sin forlovede, Barry Goldwaters mor. Familien eide en forretning som gjorde dem komfortabelt rike.