Gedurende sy pontifikaat het Gallicanisme (die onafhanklikheid van die Franse Kerk van Rome) sy kop uit gesteek. Hugo Capet, was koning van Frankryk en het Arnulf aartsbiskop van Reims gemaak. Arnulf was egter die nefie van Charles van Lorraine, Hugo se aartsvyand. Charles het Reims verower en Arnulf gevange geneem. Hugo het Arnulf egter as 'n verraaier beskou en geëis dat Pous Johannes hom afset. Voordat die pous kon antwoord, het Hugo Reims verower en beide Charles en Arnulf gevange geneem. Hy het 'n sinode byeen geroep en die sinode het heel gehoorsaam Arnulf afgeset in Junie 991. Hulle kies ab Gerbert (die latere Pous Silvester III) as sy opvolger. Die pous het nie die gebeure goedgekeur nie en die Franse biskoppe opgeroep na 'n onafhanklike sinode in Aken (net buite Frankryk). Die biskoppe het geweier om te kom en toe Johannes hulle na Rome ontbied het hulle geprotesteer dat die pad te gevaarlik was en toestande in Rome nie gunstig was nie. Die pous stuur toe sy gesant met die opdrag om 'n sinode in Mousson te belê. Slegs die Duitse biskoppe het opgedaag en die Franse biskoppe is verhinder deur Hugo. Die sinode het egter besluit op 2 Junie 995 dat Arnulf se afsetting onwettig was. Na die dood van Hugo (23 Oktober 996) is Arnulf bevry en het sy pligte hervat. Gerbert het na die keiserlike hof in Magdeburg vertrek.