Han kom til Arsenal i mai 1997, og kostet 2 millioner pund. Men Arsenals forsvar var sterkt på den tiden, og dette pluss skader gjorde at han sjelden fikk en sjanse til å vise seg frem på førstelaget. Etter å ha vært skadet i et år med en korsbåndsskade han fikk i 1999, spilte Upson bare noen få førstelagskamper for Arsenal, innimellom utlånene til Nottingham Forest i 2000, og Crystal Palace i 2001. I 2001–02, som var hans siste hele sesong I Arsenal, spilte Upson 22 kamper, inkludert 14 i ligaen, som ga han en medalje siden Arsenal vant ligaen. Men etter at han brakk beinet i februar 2002 spilte ikke flere kamper i ligaen, og fikk heller ingen medalje når Arsenal vant FA-cupen. Etter å ha kommet tilbake etter skaden dro Upson på et 3 måneders lån til Reading FC i september 2002. Men Arsenals nye midtstopperpar med Sol Campbell og Kolo Touré holdt han ute av laget, så han ble kjøpt av Birmingham City i januar 2003. Totalt spilte han 56 kamper for Arsenal, uten å skåre.