Arno A. Penzias ble født i München til en tysk jødisk familie; han var sønn av Justine ( Eisenreich) og Karl Penzias. Foreldrene drev en lærvarebutikk i München. Hans besteforteldre var kommet til München fra Polrn, og var blant lederne av s shul.