John ble født 23. april 1408 på Hedingham Castle, familiens hovedsete i Essex. Han var mindreårig da faren døde i 1417, og arvet jarledømmet først 4. juli 1429, da han hadde fylt 21. I 1425, mens han ennå var mindreårig, ble han gift med Elizabeth (ca. 1410–1473/4), datter av sir John Howard (1385/6–1409). Dette ekteskapet ble inngått uten kongens samtykke, og på grunn av dette ble Oxford straffet med en bot på 2 000 pund. Dette var en sum han fikk problemer med å betale, siden Oxford var et av de fattigste jarledømmene i England. John ble slått til ridder i mai 1426, i samme seremoni som kong Henrik VI, som da var fire år gammel.