Pēc Rietumromas impērijas krišanas V gs. Sicīlija un Palermo nonāk Bizantijas varā. 827. gadā Palermo ierodas Bizantijas prefekta uzaicinātie arābi, kuri sagrābj varu, un līdz 905. gadam ieņem visu Sicīliju. Arābi pārvieto Sicīlijas emirāta galvaspilsētu uz Palermo. Musulmaņu varas gados Palermo kļūst par plaukstošu pilsētu. Palermo atradušās 300 mošejas. Arī kristiešiem un ebrejiem bija atļauts darboties pilsētā.