در جنوب شام، یعنی مصر، فاطمیان از نظر سیاسی و نظامی قدرتمند بودند و نیروی دریایی نیرومندی در اختیار داشتند. با وجود این‌که فاطمیان در آغاز کوشیدند تا با صلیبی‌ها به تفاهم برسند، اما با نظر منفی روبه‌رو شدند و اورشلیم را از دست دادند. به دنبال آن لشکر مصر درهم شکست و فاطمیان درصدد برآمدند تا از دو شکست اورشلیم و اشکلون انتقام بگیرند. وزیر فاطمی، افضل، سپاه نیرومندی را تدارک دید و فرماندهی آن را به غلام خود، سعدالدوله طواشی سپرد. این سپاه در مهٔ ۱۱۰۱ م، به اشکلون رسید و چندین نبرد در رمله انجام شد که طی آن‌ها مسلمانان و صلیبی‌ها به‌تناوب بارها پیروز شدند. در ماه مهٔ ۱۱۰۲ م، فاطمیان ارتشی متشکل از بیست هزار نیروی عرب و سودانی به فرماندهی شرف المعالی، پسر افضل بسیج کردند. این ارتش بر صلیبی‌ها ِ متمرکز در رمله پیروز شد. اما صلیبی‌ها در یافا از پیروزی مصری‌ها جلوگیری کردند.