Nashashibi etterfulgte Musa Kazim al-Husayni som borgermester i Jerusalem i 1920, og frem til 1927 hadde han ved sin side viseborgermestrene Haym Salomon og Jacob Faradj. Han var en ledende opponent mot Husayni-klanen i Palestina. Hans innsettelse som borgermester skjedde nettopp fordi den britiske guvernør var misfornøyd med al-Husayni-borgermesteren; under Nabi-Musa-opptøyene i 1920 hadde ikke Musa Kazim al-Husaini levd opp til britiske forventninger.