Johannes’ far, Erard II, ble drept under det tredje korstogs beleiring av Acre i 1191. Hans eldste bror Walter III av Brienne døde i juni 1205 i kamper i Sør-Italia, og enken Elvira fødte en sønn etter farens død, Walter IV av Brienne. Denne sønnen vokste opp i Italia, og Johannes overtok da tittelen hertug av Brienne og styrte på sin nevøs vegne fra 1205 ettersom Erards sønn nr. to, William av Brienne, var død allerede i 1199.