Den 21. desember 1977 ble Murphy-O'Connor ordinert til biskop av det katolske bispedømmet . Han fikk verv i nettverket for europeiske katolsk biskoper, og var blant annet aktiv på økumenikkens område. Fra 1982 til 2000 var han medformann for Den internasjonale anglikanske–romerskkatolske kommisjon (ARCIC).