Arsenal klarte ikke å forsvare tittelen året etter og endte på en fjerdeplass i 1989–90, bak mesterne Liverpool, og Aston Villa og Tottenham på de to neste plassene. De kom heller ikke langt i de hjemlige cupene, og engelske lag var fremdeles utestengt fra Europa etter Heysel-tragedien, så Arsenal fikk heller ikke representert England som siste års ligamester. Graham ønsket å forbedre laget sitt og signerte målvakten David Seaman og den svenske vingen Anders Limpar på slutten av sesongen, og begge spillerne var viktige da Arsenal tok tilbake ligatittelen i 1990–91 på tross av to store tilbakeslag. Arsenal ble trukket to ligapoeng i oktober 1990 etter at ti av spillerne var involvert i ett håndgemeng med spillere fra Manchester United på Old Trafford. Kapteinen Tony Adams ble også dømt til fire måneders fengsel for promillekjøring i desember samme år. Dette hindret likevel ikke Arsenal sin fremgang, med kun ett ligatap denne sesongen og syv poeng foran neste lag. Arsenal nådde også semifinalen i FA-cupen mot Tottenham Hotspur, Paul Gascoine scoret med et frispark fra ca. 27 meter (30 yards) etter bare fem minutter, Tottenham vant overlegent 3-1 og senket håpet om en andre dobbel for Arsenal.