John de Balliol entstammte der anglonormannischen Familie Balliol. Er war der älteste Sohn von Hugh de Balliol. Er wurde vermutlich nach König Johann Ohneland benannt, dem sein Vater im Gegensatz zu zahlreichen anderen nordenglischen Baronen loyal diente. Nach dem Tod seines Vaters 1229 erbte Balliol Barnard Castle im County Durham und Bailleul-en-Vimeu in der Picardie. Diese französischen Besitzungen gehörten zu den Grafschaften Vimeu und Ponthieu und damit nicht zum Herzogtum Normandie. Deshalb waren sie im Gegensatz zu den Besitzungen der meisten englischen Barone 1204 nicht durch Frankreich beschlagnahmt worden, als der französische König die Normandie im Krieg mit Johann Ohneland erobert hatte.