Montini var en viktig støttespiller da paven innkalte til andre vatikankonsil. Da Johannes XXIII døde av kreft 3. juni 1963, betydde også dette at Montini var en sterk kandidat, fordi man var sikker på at han ville følge samme linje. Han ble valgt 21. juni, og formelt innsatt 30. juni 1963.