Nach Grahams Entlassung beorderte ihn Nachfolger Glenn Hoddle in die zentrale Defensive, wo King den zum Stadtrivalen FC Arsenal abgewanderten Sol Campbell zu ersetzen hatte. In den ersten beiden Partien der Saison 2001/02 zeigte er in der neuen Umgebung gegen Aston Villa (0:0) und den FC Everton (1:1) gute Leistungen und erhielt vor allem gegen die „Toffees“ aus Everton gute Kritiken. Obwohl sein Team nach zwei Platzverweisen 25 Minuten nur noch mit neun Mann agierte, überzeugte King in der „Abwehrschlacht“ und neutralisierte den gegnerischen Mittelstürmer Duncan Ferguson. Am Ende der Spielzeit erreichten die „Spurs“ mit Rang 9 die beste Platzierung seit sechs Jahren und King galt dabei als Schlüsselspieler und einer der vielversprechendsten englischen Jungverteidiger. Nach einer Hüftverletzung im Sommer 2002 kehrte King im November des Jahres zurück und konservierte anfänglich die vorher gezeigte Qualität. Dennoch ließ die gesamte Abwehrleistung gegen Ende der Spielzeit deutlich nach und auch King war aufgrund der neun Gegentore in den letzten zwei Ligaspielen Gegenstand von zwischenzeitlicher Kritik, die dann aber mehr an die „taktischen Defizite“ von Glenn Hoddle richtete, der ein 3-5-2-System – also mit nur drei echten Abwehrspielen – spielen ließ. Hoddle erhielt im September 2003 seine Entlassungspapiere und Interimstrainer David Pleat platzierte King wieder ins defensive Mittelfeld. Im Februar 2004 schoss er nach über drei Jahren im FA Cup gegen Manchester City wieder ein Tor und ließ diesem eine Woche später ein Treffer gegen Charlton Athletic (4:2) folgen. Am Ende der Saison 2003/04 nominierte ihn der englische Nationaltrainer Sven-Göran Eriksson für die anstehende Euro 2004 in Portugal, obwohl King zumeist nicht auf der angestammten Innenverteidigerposition gespielt hatte.