Johannes ble født i Vandières nær Pont-à-Mousson. Foreldrene var velstående og lot ham få en utdannelse ved benediktinernes kloster i Saint-Mihiel i Metz. Hans læremester var Hildebold, som hadde studert i Paris under Remigius av Auxerre. I en alder av tyve år hadde Johannes allerede knyttet forbindelser til regionens mektigste personer, som greve Ricuin av Verdun og biskop Dado av Verdun.