Papst Pius XII. ernannte ihn am 28. Mai 1951 zum Titularerzbischof von "Tyana" und Koadjutorerzbischof der Erzdiözese Utrecht. Die Bischofsweihe empfing er am 17. Juli 1951 durch den Apostolischen Internuntius in den Niederlanden, Paolo Giobbe. Mitkonsekratoren waren Josephus Hubertus Gulielmus Lemmens , Bischof von Roermond, und Johannes Hendrik Olav Smit, Titularbischof von Paralus. Nach dem Tode des Erzbischofs von Utrecht, Johannes de Jong, wurde Alfrink am 31. Oktober 1955 dessen Nachfolger. Johannes XXIII. nahm ihn am 28. März 1960 als Kardinalpriester mit der Titelkirche "San Gioacchino ai Prati di Castello" in das Kardinalskollegium auf. Alfrink nahm von 1962 bis 1965 am Zweiten Vatikanischen Konzil teil, das er durch seinen Reformwillen prägte. Am 6. Dezember 1975 trat er als Erzbischof von Utrecht zurück. Er nahm 1963, im August 1978 und im Oktober desselben Jahres am Konklave teil. Obwohl bereits 85 Jahre alt, nahm er 1985 als Ehrengast an einer außerordentlichen Versammlung der Bischofssynode im Vatikan teil. Zwei Jahre später starb Kardinal Alfrink in Nieuwegein.