Murphy-O'Connor var et av fem barn. To av hans brødre ble også prester. Foreldrene var George og Ellen Murphy-O'Connor. De hadde emigrert fra County Cork i Irland før første verdenskrig og giftet seg i 1921.