John Joseph O'Connor var det fjerde av fem barn av Thomas O’Connor og Mary Gomble O'Connor. Moren var konvertert fra jødedommen, og ifølge utsagn i 2014 fra søsteren til da avdøde John Joseph vokste søsknene opp med mange jødiske tradisjoner i hjemmet, og de var da etter en vanlig jødisk forståelse selv jøder, skjønt John ikke visse om dette.