Senere i karrieren deltok Arafat i en rekke forhandlinger med de israelske myndighetene, med sikte på å gjøre slutt på den flere tiår lange konflikten mellom Israel og PLO. Forhandlingene inkluderte Madridkonferansen i 1991, Oslo-avtalen i 1993 og Camp David-forhandlingene i 2000. Hans politiske rivaler, inkludert islamister og flere venstreorienterte PLO-medlemmer, anklaget ham ofte for å være korrupt eller for å være underdanig i sine forhandlinger, og i sine avtaler med de israelske myndighetene. I 1994 mottok Arafat Nobels fredspris sammen med Yitzhak Rabin og Shimon Peres for sine forhandlinger i Oslo. På denne tiden kom Hamas og andre paramilitære organisasjoner til makten og undergravde autoriteten som Fatah og Arafat hadde gjort krav på.