出生于麦加古来氏族中的伍麦亚家族，是阿布·苏富扬的次子。阿布·苏富扬以反对先知穆罕默德传布伊斯兰教着称；穆阿维亚亦随父亲参加了多次反对穆斯林的战役。但在629年麦加被穆罕默德佔领后，穆阿维亚与父亲一同改宗伊斯兰教。穆阿维亚于633年参加伊斯兰军队对叙利亚的征服之战，战后成为大马士革总督。在其堂叔奥斯曼·伊本·阿凡任哈里发时期，穆阿维亚被任命为叙利亚总督（640年）。655年，他在“船桅之战”中率领阿拉伯舰队战胜了罗马帝国的海军。656年，奥斯曼被来自伊拉克和埃及的宗教刺杀团刺杀之后，穆阿维亚坚决反对