חומות העיר נבנו סביב 1029. ב-749 ושוב ב-5 בדצמבר בשנת 1033 ובמספר מהלומות נוספות בשנת 1034, נהרסו חלקים גדולים מן העיר בשל רעידות אדמה. שליש מהעיר נחרב, והחומות והמסגד נפגעו. התאוששות העיר מהרס זה הייתה זריזה, שכן במרץ 1047 מדווח הנוסע הפרסי, נאסר א-חוסרו, שרמלה היא "עיר גדולה, עם חומות חזקות הבנויות מאבן מטויחת, בעלות גובה רב וחומות עבות, עם שערי ברזל הנפתחים פנימה". מסגד יום שישי שופץ, ומעל אחד משעריו נקבעה כתובת המזכירה את רעידת האדמה.אך בשנת 1068 הכה רעש עז כל כך ברמלה עד שחרבה כליל. רבים נספו באסון (המקורות מדווחים על 15,000–25,000 הרוגים). העיר הוקמה מחדש ארבע שנים מאוחר יותר באתר סמוך, אולם לא שבה עוד להיות בירת הארץ. מייסדיה החדשים, הסלג'וקים, העבירו את בירת הג'נד לירושלים. שטחה של רמלה הצטמצם מאוד והיא איבדה את מרכזיותה. עד כמה ירדה העיר מגדולתה אפשר ללמוד מן העובדה, שבשנים 1077–1266, העדיפו שליטיה ותושביה השונים להימלט ממנה, בכל פעם שקרב אליה אויב, או למוסרה ללא קרב - והדבר קרה לא פחות משש פעמים. ביצוריה היו דלים ותפקידה במדרג המנהלי והגאוגרפי היה נמוך דרגה. בשנת 1077 התקוממו תושביה נגד הקצין הטורקמני אאסיז, וכאשר הוא הגיע לעיר, מצאה נטושה ופגע בחומותיה.
לפי ויליאם מצור, כשאר הגיעו הצלבנים מסוריה במסע צלב, רמלה הייתה עיר מיושבת. אולם עם הגעת הצלבנים, ברחו התושבים לאשקלון (זו הייתה הפעם הראשונה מתוך שש שתושבי העיר נטשוהּ בין השנים 1099 ל-1266) ביחד עם המשמר המוסלמי. העיר אפוא ננטשה ושעריה נמצאו פתוחים עם כיבושה ב-3 ביוני 1099. הצלבנים זיהו את רמלה, כנראה בעקבות זיהוי קדום יותר, כעיר "הרמתיים צופים (יוונית: ארימתיאה)", עיר הולדתו של שמואל הנביא. בה בעת זיהו אותה גם בתור "הרמה" - העיר בה מת ונקבר שמואל. לזיהוי זה חשיבות רבה עבור הנוצרים, שכן הרמתיים צופים נחשבת לפי המסורת גם עיר הולדתו של יוסף הרמתי, האיש שדאג להורדת גופת ישו מן הצלב ולקבורתה. ביומן המסע של רבי בנימין מטודלה, שביקר בארץ בשנת 1173, מתואר שהצלבנים, בעודם עוברים דרך רמלה, שזוהתה על ידם כ"הרמה", מצאו במקום את עצמותיו של שמואל הנביא, והביאו אותם יחד איתם, וקברום מחדש בנבי סמואל – היא מצפה המשקיפה על ירושלים ליד גבעון (נחמיה ג', ז). תחת שלטון הצלבנים הייתה רמלה כפופה, לתקופה מסוימת, לרוזן של יפו, וגם כאשר נעשתה נחלה עצמאית, לא נמנתה על הבולטות בסניוריות.
המסגד הלבן, שהכתבים של הגאוגרפים הערבים המוקדמים וחפירות ארכאולוגיות יותר אחרונות הראו שהיה מרכז העיר האומיית והעבאסית, הפך למבודד בתקופה זו, במרחק מסוים מערבה מהמרכז. האזור המערבי המאוכלס, שהכיל את הקתדרלה הצלבנית (כיום אזור המסגד והתחנה המרכזית), הופך להיות מרכז העיר. נראה שבבנייתם את המבצר והכנסייה במקומות אלו, הצלבנים הכריעו באופן יעיל היכן יהיה הגרעין של רמלה הממלוכית והעת'מאנית. הסיבה לתזוזה של מרכז העיר בתקופה הצלבנית נתונה למחלוקת בקרב החוקרים. החוקר ארליך טוען שרק אחרי 1102 הוקם המרכז הצלבני של רמלה; לדעתו הפרנקים מצאו את רמלה באתרהּ המקורי כעיר בנויה היטב, אשר יכלה לספק את צורכיהם, ולמרות זאת הם הדירו את רגליהם ממנה. לשיטתו, בערים שנכנעו להם בלא קרב ונשארה בהן אוכלוסייה מקומית, נהגו הצלבנים להקים רובע משלהם. לעומת זאת, בערים שהתרוקנו מיושביהן בחרו להתיישב בתוך המבנים הקיימים ולימים היה הופך אותו רובע למרכז הכובד של הערים והמרכז הקודם היה ניטש. כך לדעתו אירע גם ברמלה, אף שכאשר נכנסו אליה צבאות הצלבנים ב-1099 הם מצאוהּ ריקה ולא הייתה להם עילה להקים בה רובע חדש ונפרד. פרינגל לא סובר ש-30 שנה לאחר רעידת האדמה של 1068 הצלבנים מצאו את העיר ריקה לחלוטין, אלא שהעיר הייתה מאוכלסת חלקית ולכן הצלבנים הזיזו את מרכזה. גת מסביר שהסלג'וקים היו אלו שבנו מחדש את העיר שנחרבה ברעש האדמה. פיטרסון לעומתו גורס שפגיעת הרעש החריבה כליל את המרכז הישן ופינוי ההריסות היה כרוך במאמץ רב מדי, ולכן הצלבנים בנו את המרכז מערבה.
בנימין מטודלה מדווח כי ישנם כ-300 יהודים ברמלה.
בימי ממלכת ירושלים השנייה הייתה רמלה עיר שולית למדי. הסולטאן הממלוכי ביברס כבש את העיר בשנת 1266, אולם גם אצל הממלוכים לא הייתה אלא מרכז למחוז קטן בנציבות (ממלכה) של עזה. נבנו בה מספר מבנים מפוארים, שהבולט בהם היה המגדל המרובע (הידוע גם בשם "מגדל הארבעים" או "המגדל הלבן") שבנייתו הושלמה ב-1318 וכן כמה מסגדי קבורה נאים. הממלוכים גם נטלו את הכנסייה המפוארת שהקימו הצלבנים במאה ה-12 והסבו אותה למסגד.
במאה ה-14 וה-15, ידעה העיר התאוששות זמנית כאשר סוחרים אירופים קבעו בה את מושבם וחידשו את מעמדה כמרכז סחר בינלאומי. כאשר שקע המסחר, חזרה רמלה להיות חסרת חשיבות. מגיפות ופשיטות נוודים הפילו חללים בין יושביה ודלדלו את הנותרים. מנזר לטיני נוסד ברמלה ב-1420 על ידי הדוכס פיליפ הטוב, והוא משופץ מאוחר יותר על ידי המלך לואי ה-14. בסוף המאה ה-14 השתכנו בעיר נזירים פרנציסקנים שהקימו בה, במהלך המאה ה-15, אכסניה מפוארת עבור עולי רגל קתולים שעשו את דרכם לירושלים. מאוחר יותר זיהו הנזירים את המקום כביתו של יוסף הרמתי והאכסניה התקדשה ונוסף לה המנזר הקיים עד היום.
על פי דיווח משנת 1480, היה אז בית קברות יהודי מחוץ לרמלה, שנראה כמעיד על יישוב יהודי במקום באותה תקופה.
מתחילת העת החדשה.
גם כאשר כבשו העות'מאנים את רמלה בסוף 1516, לא השתנה גורל העיר. ב-1546 פגע בה בפעם נוספת רעש אדמה עז שהותיר בה לא מעט חללים והרס. היא המשיכה להיות עיירה מנומנמת עוד מאות בשנים. בין התושבים הבולטים של התקופה היה ח'יר אל-דין אל-רמלי. ב-1 במרץ 1799 במסגרת מסע נפוליאון בארץ ישראל חנה נפוליאון ברמלה אשר נכבשה ללא התנגדות.
במאה ה-19, עם התגברות תנועת התיירים ועולי הרגל, התעוררה רמלה מעט ונבנו בה מספר מלונות ואכסניות. בתחילת המאה ה-19 גרו בעיר כששת אלפים תושבים, מקצתם יהודים.
על פי דיווח אחד מהשנים 2–1851, ישבו ברמלה פחות מארבעת אלפים איש, כולל מספר יהודים.
בשנת 1889 התיישבו בעיר מספר משפחות יהודיות ביוזמת ארגון "למען ציון" בברלין. אליהם נמשכו משפחות נוספות בגלל יוקר המחיה הנמוך יחסית לירושלים ויפו. באפריל 1890 היו בעיר 14 משפחות יהודיות, רובם בעלי מלאכה ומיעוטם סוחרים.
אחד מהמלונות הוקם בידי משפחה יהודית, משפחת ברסלבסקי. במלון זה התכנסה באוקטובר 1906, ועידת היסוד של מפלגת פועלי ציון, שמנהיגיה הבולטים היו יצחק בן-צבי ודוד בן-גוריון. בנו של דוד גיסין, ניהל מסעדה בעיר מול תחנת העצירה של העגלות בדרך בין יפו וירושלים.
רמלה נפלה לידי כוחו של הגנרל אלנבי ב-17 בנובמבר 1917. תחת שלטון הבריטים התעוררה העיר ושטחה גדל. ב-1922 הוקמה לה עירייה, רחובותיה נסללו ובתים נאים נבנו בידי עשיריה. ב-1927 סבלה מפגיעה של רעידת אדמה נוספת וחלק מבניניה התמוטטו. בין התושבים היו מספר הרוגים.
במלחמת העצמאות.
לאחר החלטת החלוקה, הייתה רמלה למרכז הכוחות הערבים בגזרה שבין לטרון ליפו. מפקד כוחות הערבים בגזרה, חסן סלאמה, קבע את מושבו בגבול העיר, במקום ששימש עד יציאת הבריטים כבי"ס לשוטרים. ב-13 בדצמבר 1947, ביצע הפלמ"ח פשיטה על תחנת האוטובוסים של רמלה, בתגובה לפגיעה בתחבורה הציבורית היהודית בדרך לירושלים. ב-19 בפברואר פוצץ בית של הוועדה הלאומית בסמוך לשוק. בהתקפה זו נהרגו שישה ערבים. אור ל-3 באפריל 1948 פוצצה מפקדתו של חסן סלאמה בידי כוח מחטיבת גבעתי. הוא עצמו לא שהה במקום וכך ניצל אולם כ-30 מאנשי מטהו נהרגו. במהלך המחצית השנייה של מאי ובראשית יוני נערכו קרבות האצ"ל ברמלה. כל התקפות האצ"ל נהדפו ו-53 מאנשי הארגון נפלו בקרבות (לזכרם הוקמה אנדרטה בכניסה המערבית לעיר). אור ל-10 ביולי 1948 תקפה חטיבת קרייתי את רמלה במסגרת מבצע דני ונהדפה, אולם יומיים מאוחר יותר, לאחר פשיטת גדוד הקומנדו 89 על לוד הסמוכה, נכנעה רמלה ללא קרב וכ-600 לוחמים עזבו אותה עם נשקיהם. בנו של ראש העיר וכמה נכבדים ערבים מסרו את כתב הכניעה לידי נציגי צה"ל.
בריחת תושבי העיר החלה כבר בסוף אפריל. שומרים שהוצבו ביציאות העיר מנעו את היציאה מצעירים והתירו אותה רק לזקנים, נשים וילדים. בתחילת יולי 1948 מנתה האוכלוסייה הפלסטינית בערים רמלה ולוד יחדיו, כולל כ-15,000 פליטים מיפו וסביבותיה, כ-50,000 עד 70,000 איש.
ב-10 ביולי בעקבות ההפצצה האווירית החלה הבריחה ההמונית מהעיר. לאחר כניעת העיר, בעקבות תקריות ירי בלוד, הוצאה הוראה ממטה מבצע דני לגרש את תושבי רמלה, למעט הגברים הצעירים, מזרחה לכיוון עמדות הלגיון בהרים. השר בכור שטרית שהגיע לאזור, ראה את ההכנות לביצוע הגירוש ופנה לבן-גוריון ושרתוק בדרישה לבטלו. בעקבות זאת הוצא בלילה שבין ה-12–13 ביולי הנחיה שלא להכריח נשים, זקנים וילדים לצאת מהעיר. אולם ב-13 ביולי הושג הסכם בין צה"ל לאנשי רמלה: צה"ל ישחרר את הגברים הצעירים שנעצרו ואלו יעזבו את העיר עם משפחותיהם וכלל האוכלוסייה האזרחית. בעוד תושבי לוד יצאו ברגל, תושבי רמלה הוסעו באוטובוסים ומשאיות לאל קובאב (כיום כפר בן-נון) ומשם המשיכו ברגל. כ-1,000 תושבים ערבים נותרו בלוד ורמלה יחדיו ואלו השתייכו למשפחות אחדות. פליטי לוד ורמלה היוו כ-7%–10% מפליטי מלחמת העצמאות. לימים אפשרה מדינת ישראל לכ-500 נוצרים מבני העיר לשוב אליה ובתחילת 1949 היו בלוד ורמלה יחדיו כ-2,000 ערבים.
הפיכתה לעיר ישראלית.