Den 20. juni 1951 ble Gray utnevnt til erkebiskop av St. Andrews og Edinburgh av pave Pius XII. Han ble bispeviet den følgende 21. september av den apostoliske delegat erkebiskop William Godfrey, med biskopene James Donald Scanlan (av Dunkeld) og Edward Wilson Douglas (av Motherwell) som medkonsekrerende i St. Mary's Cathedral i Edinburgh.