Hume ble født i Derry i 1937, i en irsk og katolsk familie. Hans oldefar var en skotsk presbyteriansk immigrant til County Donegal. Hume gikk på St. Columb's College og St. Patrick's College. Han hadde som intensjon å bli katolsk prest. Blant hans lærere var den senere kardinal Tomás Ó Fiaich, som ble den katolske kirkes erkebiskop av Armagh og Primate of All Ireland.