Davis signerte for Arsenal som juniorspiller i 1977 og ble profesjonell året etter. Han var regnet som en talentfull venstrebent midtbanespiller, og gjorde sin debut i 1980 i lokalderbyet mot Tottenham, og var innen et år fast på Arsenal-laget, samt som spiller på det engelske U21-landslaget.