Los musulmanes transformaron la mitad de la iglesia de San Juan en la mezquita de los viernes de la ciudad (Gran mezquita de al-Nuri) y Homs pronto se convirtió en el centro de la piedad islámica desde que unos 500 compañeros de Mahoma se asentaron aquí después de su conquista. El monumento más interesante de la ciudad es la tumba de Jálid ibn al-Walid, el guerrero que introdujo la religión islámica en Siria en 636 d. C. También están aquí las tumbas de su hijo Abd al-Rahman, y Ubaid Allah, el hijo del califa Umar. Durante el conflicto entre los omeyas y Alí, los habitantes de Homs se aliaron con Alí y cuando más tarde fue derrotado, el califa omeya Muawiya ibn Abi Sufyán separó la mitad norte de Jund Hims para formar un distrito separado, Jund Qinnasrin, aparentemente como castigo. El oratorio de Alí ("mash-had 'Ali") estaba en la ciudad, y la tradición islámica pretende que sus huellas dactilares están gravadas en él. A pesar de la represión de los omeyas, Homs siguió siendo el centro del chiismo durante un poco de tiempo más. Como una plaza fuerte de los Banu Kalb, la ciudad se vio involucrada en los conflictos de estos últimos con la facción tribal de los Qays. El último califa omeya, Marwan II, disfrutó del apoyo de los Qais y posteriormente derribó las murallas de la ciudad en respuesta a una rebelión de los Banu Kalb.