Arsenal kom på andreplass i Chapmans første sesong, den beste plassering i klubbens historie. Men dette viste seg å være et unntak, for de neste sesongene havnet laget midt på tabellen mens Chapman tok sin tid med å sette sammen et nytt lag. Han anskaffet nye spillere som vingen Joe Hulme, spissen Jack Lambert og forsvarerne Tom Parker og Herbie Roberts som ble tilpasset hans formasjon. I 1926–27-sesongen nådde Arsenal sin første FA-cup-finale, der de tapte 1-0 for Cardiff City, etter at Arsenals målvakt Dan Lewis slapp inn et skudd som så harmløst ut. Dette er den eneste gangen at FA-cupen er vunnet et lag utenfor den engelske grense (Cardiff City er walisisk).