Vuoden 1958 konklaavi valitsi Pius XII:lle seuraajaksi Angelo Giuseppe Roncallin, josta tuli niin sanottu ”välikauden paavi”. Hän otti paavilliseksi nimekseen nimen Johannes XXIII, ja myöhemmän autuaaksi julistamisensa jälkeen häntä kutsutaan nimellä Autuas Johannes XXIII. Paavina hän ei käyttänyt samanlaista yksinvaltaa kuten edeltäjänsä, eivätkä kardinaalit aina edes totelleet häntä. Paavi yllättikin kardinaalinsa ilmoittamalla näille tammikuussa 1959, että hän aikoi kutsua koolle Vatikaanin toisen kirkolliskokouksen. Tämä oli yllättävää, sillä Vatikaanin ensimmäisen kirkolliskokouksen jälkeen, jossa paavi julistettiin opiltaan erehtymättömäksi, luultiin ettei uutta kirkolliskokousta enää tarvittaisi. Aluksi paavillinen kuuria yritti jarruttaa kirkolliskokouksen koolle kutsumista ilmoittamalla järjestelyjen kestävän vuosikymmeniä, mutta paavi pysyi mielipiteessään. Jo kahden vuoden kuluttua 11. lokakuuta 1962 järjestelyt oli tehty ja kirkolliskokous saattoi alkaa.