Keown begynte i 1984 sin seniorkarriere i Arsenal, som senere skulle bli den klubben han opplevde størst suksess med. Han forlot Arsenal i 1986 og hadde opphold i henholdsvis Aston Villa og Everton FC.