I oktober 1998 forlot Graham Leeds til fordel for managerjobben i Tottenham Hotspur. Og bare fem måneder etter at han tok over i klubben, ledet han laget til seier i Ligacupfinalen mot Leicester City, og sikret en plass i UEFA-cupen i 1999–2000-sesongen. Men lagets spill var ikke så overveldende, og etter en krangel med klubben nye eier Daniel Levy, fikk Graham sparken i mars 2001. Til tross for at han hadde ledet klubben til sin første tittel på åtte år, så var ham upopulær blant store deler av supporterne. Dette skyldes hans tidligere rolle i Arsenal, som er Tottenhams erkerival. Han har holdt seg borte fra klubbledelse etter dette, og konsentrert seg om en karrière som ekspertkommentator i Sky Sports.