The Double viste seg å være et tidlig høydepunkt i et tiår som var karakterisert av en kjede av «nære på». Selv om klubben hadde signert Alan Ball (fra Englands mesterlag i ’66) på slutten av sesongen 1970–71, så begynte 1971–72 sesongen svært dårlig med tap i tre kamper i august. Dette medførte at klubben ble jagende etter teten resten av sesongen. Deres debut i serievinnercupen startet lovende, men de ble slått ut i kvartfinalen av et Johan Cruijff-inspirert og velspillende Ajax-lag. Arsenal nådde også finalen i FA-cupen, men tapte 1-0 for Leeds United i en udisiplinert og til tider stygg kamp. Arsenal endte på andreplass i ligaen i 1972–73, men innen ett år så var laget som vant The Double oppløst, og Mee var ikke i stand til å bygge et nytt lag til å ta over. Klubbens styrke avtok sterkt, med en 16.-plass i 1974–75 og 17.-plass i 1975–76 (den dårligste plasseringen på førti år), dette førte til at Bertie Mee trakk seg fra jobben som manager. Tottenham-manageren Terry Neill, en tidligere Arsenalspiller, ble utnevnt som manager, selv om han aldri hadde klart å gjøre «Spurs» til et lag som kom over midten av tabellen.