Am 25. Oktober 1960 ernannte ihn Papst Johannes XXIII. zum Titularbischof von "Philippopolis in Arabia" und Weihbischof im Erzbistum Mailand. Die Bischofsweihe spendete ihm Kardinal Giovanni Battista Montini, der spätere Papst Paul VI., am 7. Dezember desselben Jahres. Mitkonsekratoren waren der Erzbischof von Urbino, Anacleto Cazzaniga , und Giuseppe Schiavini, Titularbischof von Pharsalus und Weihbischof in Mailand. 1963 wurde Giovanni Colombo als Nachfolger Montinis zum Erzbischof von Mailand bestellt. Er nahm von 1962 bis 1965 am Zweiten Vatikanischen Konzil teil. Bereits vor dem Konzil war er Mitglied der Vorbereitungskommission für Seminare und Universitäten. Im Konsistorium vom 22. Februar 1965 nahm ihn Papst Paul VI. als Kardinalpriester mit der Titelkirche "Santi Silvestro e Martino ai Monti" in das Kardinalskollegium auf. Unter Kardinal Colombo fand in Mailand eine große Pastoralreform im Sinn des Zweiten Vatikanischen Konzils statt. Er nahm 1978 am August- sowie am Oktober-Konklave teil. Bei letzterem galt er vereinzelt selbst als "papabile".