Etter at skader tvang Charlton til å legge opp som aktiv i 1973 ble han tilbudt managerjobben i Middlesbrough FC, som da lå på andre nivå i ligasystemet. Etter den første sesongen rykket laget opp med så klar margin at Charlton ble den første manager for et lag under øverste nivå som fikk tittelen «Årets manager». Han sa opp jobben i Middlesbrough i april 1977 for å være ledig til å ta over som landslagstrener for England, men han fikk ikke den jobben. I stedet tok han over i Sheffield Wednesday FC, en jobb han hadde fram til 1983. Etter et par år tilbake i Middlesbrough og i Newcastle United FC, tok han en liten pause fra fotballen.