Nel 1991 Erekat è stato vice capo della delegazione palestinese alla Conferenza di Madrid e ai successivi colloqui di pace a Washington DC tra il 1992 e il 1993. Nel 1994 è stato nominato ministro per il governo locale dell'Autorità nazionale palestinese e presidente della delegazione palestinese ai negoziati. Nel 1995 Erekat è stato capo negoziatore per i palestinesi durante il periodo di Oslo. È stato poi eletto al Consiglio legislativo palestinese nel 1996, in rappresentanza del Governatorato di Gerico.