Kekhalifahan Umayyah
dianggap sebagai warga negara kelas dua. Namun perlawanan Al-Mukhtar sendiri ditumpas oleh Abdullah bin Zubair yang menyatakan dirinya secara terbuka sebagai khalifah setelah Husain bin Ali terbunuh. Walaupun dia juga tidak berhasil menghentikan gerakan Syi'ah secara keseluruhan.
Abdullah bin Zubair membina kekuatannya di Mekkah setelah dia menolak sumpah setia terhadap Yazid bin Muawiyah. Tentara Yazid bin Muawiyah kembali mengepung Madinah dan Mekkah secara biadab seperti yang diriwayatkan dalam sejarah. Dua pasukan bertemu dan pertempuran pun tak terhindarkan. Namun, peperangan ini terhenti karena taklama kemudian Yazid bin Muawiyah wafat dan tentara Bani Umayyah kembali ke Damaskus.
Perlawanan Abdullah bin Zubair baru dapat dihancurkan pada masa kekhalifahan Abdul Malik bin Marwan, yang kemudian kembali mengirimkan pasukan Bani Umayyah yang dipimpin oleh Al-Hajjaj bin Yusuf ats-Tsaqafi dan berhasil membunuh Abdullah bin Zubair pada tahun 73 H/692 M.
Setelah itu, gerakan-gerakan lain yang dilancarkan oleh kelompok Khawarij dan Syi'ah juga dapat diredakan. Keberhasilan ini membuat orientasi pemerintahan Bani Umayyah mulai dapat diarahkan kepada pengamanan daerah-daerah kekuasaan di wilayah timur (meliputi kota-kota di sekitar Asia Tengah) dan wilayah Afrika bagian utara, bahkan membuka jalan untuk menaklukkan Spanyol
(Al-Andalus). Selanjutnya hubungan pemerintah dengan golongan oposisi membaik pada masa pemerintahan Khalifah Umar bin Abdul-Aziz (717-720 M), dimana sewaktu diangkat sebagai khalifah, menyatakan akan memperbaiki dan meningkatkan negeri-negeri yang berada dalam wilayah Islam agar menjadi lebih baik daripada menambah perluasannya, dimana pembangunan dalam negeri menjadi prioritas
utamanya, meringankan zakat, kedudukan mawali disejajarkan dengan Arab. Meskipun masa pemerintahannya sangat singkat, namun berhasil menyadarkan golongan Syi'ah, serta memberi kebebasan kepada penganut agama lain untuk beribadah sesuai dengan keyakinan dan kepercayaannya.
Sepeninggal Umar bin Abdul-Aziz, kekuasaan Bani Umayyah dilanjutkan oleh Yazid bin Abdul-Malik (720- 724 M). Masyarakat yang sebelumnya hidup dalam ketenteraman dan kedamaian, pada masa itu berubah menjadi kacau. Dengan latar belakang dan kepentingan etnis politis, masyarakat menyatakan konfrontasi terhadap pemerintahan Yazid bin Abdul-Malik cendrung kepada kemewahan dan kurang
memperhatikan kehidupan rakyat. Kerusuhan terus berlanjut hingga masa pemerintahan khalifah berikutnya, Hisyam bin Abdul-Malik (724-743 M). Bahkan pada masa ini muncul satu kekuatan baru dikemudian hari menjadi tantangan berat bagi pemerintahan Bani Umayyah. Kekuatan itu berasal dari kalangan Bani Hasyim yang didukung oleh golongan mawali. Walaupun sebenarnya Hisyam bin Abdul-Malik
adalah seorang khalifah yang kuat dan terampil. Akan tetapi, karena gerakan oposisi ini semakin kuat, sehingga tidak berhasil dipadamkannya.
Setelah Hisyam bin Abdul-Malik wafat, khalifah-khalifah Bani Umayyah yang tampil berikutnya bukan hanya lemah tetapi juga bermoral buruk. Hal ini semakin memperkuat golongan oposisi. Dan akhirnya, pada tahun 750 M, Daulah Umayyah digulingkan oleh Bani Abbasiyah yang merupakan bahagian dari Bani Hasyim itu sendiri, dimana Marwan bin Muhammad, khalifah terakhir Bani
Umayyah, walaupun berhasil melarikan diri ke Mesir, namun kemudian berhasil ditangkap dan terbunuh di sana. Namun, salah satu penerus bani umayyah yang bernama Abdurrahman Ad-dakhil dapat meloloskan diri pada tahun 755 M. Ia dapat lolos dari kejaran pasukan bani abbasiyah dan masuk ke Andalusia (Spanyol). Di Spanyol sebagian besar umat islam disana masih setia dengan bani umayyah.
Ia kemudian mendirikan pemerintahan sendiri dan mengangkat dirinya sebagai amir (pemimpin) dengan pusat kekuasaan di Cordoba. Kematian Marwan bin Muhammad menandai berakhirnya kekuasaan Bani Umayyah di timur (Damaskus) yang digantikan oleh Daulah Abbasiyah, dan dimulailah era baru Bani Umayyah di Al-Andalus.
Al-Andalus atau (kawasan Spanyol dan Portugis sekarang) mulai ditaklukan oleh umat Islam pada zaman khalifah Bani Umayyah, Al-Walid bin Abdul-Malik (705-715 M), dimana tentara Islam yang sebelumnya telah menguasai Afrika Utara dan menjadikannya sebagai salah satu propinsi dari dinasti Bani Umayyah. Dalam proses penaklukan ini dimulai dengan kemenangan pertama yang dicapai oleh Tariq bin Ziyad
membuat jalan untuk penaklukan wilayah yang lebih luas lagi. Kemudian pasukan Islam di bawah pimpinan Musa bin Nushair juga berhasil menaklukkan Sidonia, Karmona, Seville, dan Merida serta mengalahkan penguasa kerajaan Goth, Theodomir di Orihuela, ia bergabung dengan Thariq di Toledo. Selanjutnya, keduanya berhasil menguasai seluruh kota penting di Spanyol, termasuk bagian utaranya, mulai dari Zaragoza sampai Navarre.
Gelombang perluasan wilayah berikutnya muncul pada masa pemerintahan Khalifah Umar bin Abdul-Aziz tahun 99 H/717 M, dimana sasaran ditujukan untuk menguasai daerah sekitar pegunungan Pirenia dan Perancis Selatan. Pimpinan pasukan dipercayakan kepada Al-Samah, tetapi usahanya itu gagal dan ia sendiri terbunuh pada tahun 102 H. Selanjutnya, pimpinan pasukan diserahkan
kepada Abdurrahman bin Abdullah al-Ghafiqi. Dengan pasukannya, ia menyerang kota Bordeaux, Poitiers dan dari sini ia mencoba menyerang kota Tours, di kota ini ia ditahan oleh Charles Martel, yang kemudian dikenal dengan Pertempuran Tours, al-Ghafiqi terbunuh sehingga penyerangan ke Perancis gagal dan tentara muslim mundur kembali ke Spanyol.
Pada masa penaklukan Spanyol oleh orang-orang Islam, kondisi sosial, politik, dan ekonomi negeri ini berada dalam keadaan menyedihkan. Secara politik, wilayah Spanyol terkoyak-koyak dan terbagi-bagi ke dalam beberapa negeri kecil. Bersamaan dengan itu penguasa Goth bersikap tidak toleran terhadap aliran agama yang dianut oleh penguasa, yaitu aliran
Monofisit, apalagi terhadap penganut agama lain, Yahudi. Penganut agama Yahudi yang merupakan bagian terbesar dari penduduk Spanyol dipaksa dibaptis menurut agama Kristen. Yang tidak bersedia disiksa, dan dibunuh secara brutal.
Buruknya kondisi sosial, ekonomi, dan keagamaan tersebut terutama disebabkan oleh keadaan politik yang kacau. Kondisi terburuk terjadi pada masa pemerintahan Raja Roderic, Raja Goth terakhir yang dikalahkan pasukan Muslimin. Awal kehancuran kerajaan Visigoth adalah ketika Roderic memindahkan ibu kota negaranya dari Seville ke Toledo, sementara Witiza, yang saat itu
menjadi penguasa atas wilayah Toledo, diberhentikan begitu saja. Keadaan ini memancing amarah dari Oppas dan Achila, kakak dan anak Witiza. Keduanya kemudian bangkit menghimpun kekuatan untuk menjatuhkan Roderic. Mereka pergi ke Afrika Utara dan bergabung dengan kaum muslimin. Sementara itu terjadi pula konflik antara Raja Roderick dengan Ratu Julian, mantan penguasa wilayah Septah. Julian juga bergabung
dengan kaum muslimin di Afrika Utara dan mendukung usaha umat Islam untuk menguasai Spanyol, Julian bahkan memberikan pinjaman empat buah kapal yang dipakai oleh Tharif, Tariq dan Musa.
Hal menguntungkan tentara Islam lainnya adalah bahwa tentara Roderic yang terdiri dari para budak yang tertindas tidak lagi mempunyai semangat perang, selain itu, orang Yahudi yang selama ini tertekan juga mengadakan persekutuan dan memberikan bantuan bagi perjuangan kaum Muslimin.
Sewaktu penaklukan itu para pemimpin penaklukan tersebut terdiri dari tokoh-tokoh yang kuat, yang mempunyai tentara yang kompak, dan penuh percaya diri. Yang tak kalah pentingnya adalah ajaran Islam yang ditunjukkan para tentara Islam, yaitu toleransi, persaudaraan, dan tolong menolong. Sikap toleransi agama dan persaudaraan yang terdapat dalam pribadi kaum muslimin itu menyebabkan penduduk Spanyol menyambut kehadiran Islam di sana.