Gordon Gray ble født i Leith. Foreldrene var Frank og Angela (født Oddy) Gray. Han var den yngste av tre barn. Etter at han hadde gått på Holy Cross Academy i Edinburgh foreslo hans onkel John Gray, som var prest, at han burde tenke på å bli prest. Han studerte så ved St. Joseph's Junior College i East Sussex fra 1927 tiil juli 1929, og begynte på St. John's Seminary i Wonersh i september 1929.