Profesjonalne treningi zaczął wraz ze starszym bratem Ricardo w młodzieżowym klubie Schellingwoude, który ściśle współpracował z Ajaksem. Dwukrotnie próbował dostać się do szkółki Ajaksu, ale jego kandydaturę odrzucano ze względu na słabe warunki fizyczne (niski wzrost). W Ajaksie zadebiutował 8 września 1991, mając 18 lat. Pierwszy sezon w drużynie seniorów Ajaksu uwieńczył zdobyciem Pucharu UEFA. W barwach klubu z Amsterdamu w latach 1994, 1995 i 1996 zdobywał mistrzostwo Holandii, a w 1993 Puchar Holandii. W 1995 sięgnął z drużyną po Puchar Mistrzów, w finale pokonując A.C. Milan (następnie zdobył także Puchar Interkontynentalny). W kolejnym roku Ajax w finale Pucharu Mistrzów przegrał z Juventusem po rzutach karnych, w których Edgar Davids nie wykorzystał jedenastki. W tym samym roku wystąpił na mistrzostwach Europy, gdzie z reprezentacją Holandii doszedł do ćwierćfinału. W czasie tych mistrzostw doszło do zgrzytu pomiędzy nim a trenerem reprezentacji Holandii, Guusem Hiddinkiem. Za jedną z wypowiedzi dla radia krytykującą trenera, został wykluczony z kadry. Również w 1996 przeszedł z Ajaksu do A.C. Milan. W Mediolanie stracił swoją dawną formę, odzyskał ją po przenosinach do Juventusu. W barwach drużyny z Turynu Davids występował w latach 1998–2004, trzykrotnie zdobywając mistrzostwo Włoch w latach 1998, 2002 i 2003. W 2004 został wypożyczony do zespołu FC Barcelona. Gdy wypożyczenie się skończyło, został za darmo pozyskany przez Inter Mediolan. Po słabym sezonie przeniósł się do Tottenhamu Hotspur. Zimą 2007 odszedł z niego i ponownie został piłkarzem Ajaksu Amsterdam, z którym został wicemistrzem oraz zdobył Puchar Holandii. W 2008 rozwiązał jednak kontrakt z tym klubem i postanowił zakończyć karierę.