Selanjutnya, Arafat terlibat dalam serangkaian perundingan dengan Israel untuk mengakhiri konflik yang berlangsung selama satu dekade antara negara tersebut di PLO. Di antara perundingan-perundingan ini adalah Konferensi Madrid 1991, Perjanjian Oslo, dan pertemuan di Camp David pada tahun 2000. Lawan-lawan politiknya, seperti kaum Islamis dan faksi kiri PLO, sering menuduhnya sebagai seorang yang korup atau terlalu tunduk kepada persyaratan-persyaratan yang diberikan oleh Israel. Pada saat-saat itu, Hamas dan organisasi-organisasi militan lainnya mulai naik daun dan menggoyahkan pemerintahan yang telah dibangun oleh Fatah dibawah Arafat di Palestina. Pada akhir 2004, setelah diisolasi secara efektif oleh tentara Israel di rumahnya sendiri di Ramallah, Arafat jatuh sakit, mengalami koma dan wafat pada tanggal 11 November 2004, dalam usia 75 tahun. Penyebab penyakit dan kematiannya masih menjadi bahan perdebatan hingga hari ini.