Balliol var sønn av Dervorguilla av Galloway og John, 5. baron de Balliol som grunnla Balliol College ved Oxford-universitetet, ett av de første fakultetene i Oxford. Balliol-familien hadde normanniske røtter, fra Bailleul i Picardie, men ble invitert til England av William Rufus (1087-1100) og tildelt et område i Northumberland (der et familiemedlem ved navn Bernard grunnla Barnard-slottet). Etter en uenighet med biskopen av Durham ble baron John pålagt å understøtte lærde i Oxford. I virkeligheten var det hans kone Dervorguilla som betalte for dette. Hun var datter av den siste herre av Galloway, Alan, og datterdatter av kong David I. Dette var grunnlaget for Johans krav på den skotske trone.