En 1996, fue nombrado director técnico del Arsenal, y dos años más tarde ganó el doblete Liga y FA Cup. Él llevó al Arsenal a apariciones en el Final de la Copa de la UEFA 1999-2000 y final de la FA Cup en 2001, y una segunda Liga y la Copa en 2002. Arsenal retuvo la Copa FA en 2003 y un año más tarde recuperó el título de Liga, convirtiéndose en el primer club en ganar la liga toda la temporada invicto desde Preston North End, 115 años antes. El equipo más tarde eclipsaría al Nottingham Forest y su récord de 42 partidos de liga invicto sobre siete partidos de más, antes de perder en octubre de 2004. Arsenal hizo su primera aparición en una final de Champions League en 2006, aunque perdieron ante el Barcelona. En 2012, el club se clasificó para una 15.ª temporada consecutiva en la Liga de Campeones, a pesar de su peor inicio de temporada en 58 años. Durante su mandato, el Arsenal se mudó a un nuevo centro de formación y se trasladó al Emirates Stadium en agosto de 2006, después de 93 años en Highbury.