Allerede før Otto hadde forlatt Roma innså Johannes at keiseren makt kunne overskygge hans egen, og begynte å konspirere mot den nye keiseren. Intrigene ble oppdaget av Otto, som etter å ha slått og tatt til fange Berengar II vendte tilbake til Roma. Han innkalte et konsil som avsatte Johannes, som hadde gått i dekning i fjellene i Campania, og valgte Leo VIII som ny pave i 963.