Charlton kom fra en familie med fotballtradisjoner, ettersom hans mors fetter var Jackie Milburn og hans yngre bror var Bobby Charlton. Fotballkarrieren føltes nok et stykke unna for Jack da han jobbet i kullgruven, og senere søkte opptak til politiet. Leeds United hadde imidlertid oppdaget at han kunne spille fotball. Da Charlton fikk valget mellom å møte til opptaksprøve hos politiet og prøvespille for Leeds, valgte han fotballen. I 1952 signerte han kontrakten som gjorde ham til profesjonell fotballspiller.