הכובשים הרומאים הרסו את העיר, והקימו על חורבותיה את איליה קפיטולינה. בצפון האזור נבנה הפורום של אדריאנוס. ליהודים הייתה בעיר דריסת רגל מועטה בלבד.
בתקופה הביזנטית נבנו כנסיות ומתחמים שונים בהם כנסיית סטפנוס הקדוש מצפון לשער שכם, וכן שופצו חומות העיר. בתקופה זו לא הורשו יהודים להתגורר בעיר.
ימי הביניים.
בסוף התקופה הערבית הקדומה שימש האזור לשכונה יהודית. הכובשים הצלבנים טבחו בתושבי העיר היהודים והמוסלמים, שרפו את היהודים בבתי הכנסת, גרשו את הנותרים, ואסרו את כניסתם אל העיר. בתקופתם שכן באזור רובע של מהגרים נוצרים מסוריה, ונבנתה "קפלת אגידיוס הקדוש" ליד הגשר שמעל קשת וילסון.
הממלוכים המוסלמים פיתחו את האזור הסמוך להר הבית בצפון והמערב, ובנו בה מבני פאר אחדים: מדרסות, אכסניות ומבנים אחרים. הם הסדירו את סתימת הגיא ואיפשרו התיישבות בדרום האזור.
הכובשים העות'מאנים הסבו את המבנים הממלוכים לשימושם השלטוני. ושיכנו בהם מוסדות שלטון חשובים ומרכזיים:בית הסראייה שימש, בין השאר, כקסרקטין לחיל המצב העות'מאני, ובית המשפט העליון ('המחכמה' במדרסת תנכזיה).
העת החדשה.
בראשית המאה ה-19, נאמד מספר המוסלמים ברובע בכ-4,000 נפש, וב-1845 נאמד מספרם בכ-4,500 נפש. התערבותן והשפעתן של מעצמות אירופה (אוסטריה, רוסיה, בריטניה, צרפת, פרוסיה, איטליה ואחרות) בארץ ישראל, ובמיוחד בירושלים, התגברה במשך המאה ה-19. במחצית המאה, מאז שלטונו של אבראהים פאשא, אישרו השלטונות לראשונה בנייה נוצרית באזור המוסלמי. האירופאים הקימו אכסניות וכנסיות לאורך ויה דולורוזה, כגון כנסיית ההלקאה והאכסניה האוסטרית. וברובע נפתחו קונסוליות אחדות: הבריטית, הגרמנית והפרוסית. חדירת המעצמות האירופאיות, שכללה הטבות לנתיניהן הזרים באימפריה העות'מאנית, וכן הגידול באוכלוסייה היהודית ברובע היהודי, היו מהגורמים להתיישבותם של נוצרים ויהודים ברובע המוסלמי במאה ה-19. יהודים שכרו ורכשו בתים בשלושה ריכוזים עיקריים: באזור "רחוב חברון" (כיום רחוב מעלה חלדיה) העולה מערבה מרחוב הגיא (אל ואד), בו התגוררו רבים מיוצאי יהדות צפון אפריקה; ומצפון לוויה דולורוזה באזור "באב חוטא" ושער הפרחים. ברובע התגוררו, בין השאר, משפחת נשיא האוניברסיטה העברית, יהודה לייב מאגנס ומשפחת הבנקאי חיים ולירו; וברחוב הדגל (אל בייראק) (המחבר את ויה דולורוזה לארמון הגבירה טונשוק) התגוררו עורך "חבצלת", ישראל דב פרומקין, ישראל ב"ק ואליעזר בן-יהודה ובני משפחתו.
במחצית השנייה של המאה ה-19, היו עשרות מבנים בבעלות יהודית, כעשרים בתי כנסת, שש ישיבות ומוסדות ציבור נוספים.
במקביל, ממחצית המאה ה-19, נבנו השכונות החדשות, מצפון, מערב ודרום לעיר העתיקה, והיו לעיר החדשה של ירושלים. ותושבי הרובע המוסלמי: המוסלמים, הנוצרים והיהודים יצאו ממנה ועברו להתגורר בהן. ובמקביל, אל הרובע המוסלמי והעיר העתיקה היגרו משפחות מוסלמיות רבות מכפרי הסביבה (בעיקר מכפרי הר חברון).
בימי המנדט הבריטי רחובות הרובע המוסלמי לא היו מרוצפים, ובהיעדר מערכת ביוב מודרנית, זרמו השופכין מהבתים אל בורות המים, מהם שתו תושבי הרובע. רוב בתי הרובע לא חוברו למערכת החשמל. נפרסו מערכות מים, ביוב וניקוז חדשות, אולם רוב האוכלוסייה השתמשה בצנרת העות'מאנית הישנה, ואף בקדומה מהתקופה הרומית (פריסתה המלאה של צנרת מודרנית הושלמה רק לאחר 1967). במאורעות תר"פ תקפו פורעים ערבים את היהודים תושבי הרובע. ביום השני לפרעות נרצחו סמוך לבית ויטנברג, מיכאל גרוס יליד ירושלים והאגרונום שמואל הרמתי. בעקבות המאורעות אלו, מאורעות תרפ"א ומאורעות תרפ"ט (1929) נטשו היהודים את הרובע, ונותרו בו 10 משפחות יהודיות. בשנת 1931 פעל הוועד הלאומי להשיב את ההתיישבות היהודית. כתוצאה מכך, שבו כ-150 משפחות יהודיות. אולם בשנים 1936–1939, בעקבות המרד הערבי הגדול, נמלטו היהודים מהרובע המוסלמי.
בתקופת השלטון הירדני נכסי היהודים לא הופקעו, אלא הועברו לאחריות "האפוטרופוס הירדני על נכסי אויב". בתקופה זו היה הרובע המוסלמי לשכונת העוני של ירושלים, והאזור הדל בעיר, לאחר הריסות הרובע היהודי) שבו התיישבו פליטים ערבים. מרבית התושבים התגוררו בדמי מפתח במבנים, בהם שכר הדירה לא השתנה מאז תקופת המנדט הבריטי, שהיו בבעלות ההקדש המוסלמי (הוואקף). ההקדש לא השקיע כספים בשיפוץ ושיקום הבתים, ומצבם של המבנים הידרדר. השלטונות הירדנים לא עשו לפיתוחן של תשתיות החשמל המים והביוב. רבים מתושבי הרובע התגוררו בדירות חדר ומרתפים תת-קרקעיים, או בפחונים וצריפים, שנבנו על גגות הבתים. בתקופה זו עדיין לא היו מים זורמים במרבית הבתים, ורק במספר קטן של דירות היו בתי שימוש. רוב הרחובות לא היו מרוצפים ותושבים רבים השתמשו במנורות נפט בגלל העדר חשמל בתנאים קשים אלה, התגוררו כ-17,000 תושבים מוסלמים עד שלהי התקופה הירדנית.
לאחר מלחמת ששת הימים.
תקופת השלטון הישראלי החלה במלחמת ששת הימים. השלטונות הישראלים שיפרו בהדרגה את מערכת המים והביוב, ריצפו מחדש את הרחובות והציבו שילוט בשפות אחדות. בדצמבר 1978 החלו עמותת "עטרה ליושנה" ועטרת כוהנים בחידוש היישוב היהודי ברובע המוסלמי, אותו הן מכנות בשם "הרובע היהודי המתחדש". המבנה הראשון אליו נכנסו היה בית המערבים. פעילות זו כללה חזרה לבתים נטושים שהיו בבעלות יהודית, קניית בתים באזור, מבעליהם מוסלמים ונוצרים, וקבלת בתים שהוצאו מחזקת יושביהם על ידי האפוטרופוס הכללי לפי חוק נכסי נפקדים, באמצעות חברת עמידר ומשרד השיכון.
בדרך כלל נשמר השקט ברובע המוסלמי, אך במרוצת השנים 1987–2005 נרשמו שישה מקרי רצח של יהודים על רקע לאומני. בעשור האחרון של המאה ה-20, תוגברה האבטחה ברובע; בשנת 1999 הותקנו מצלמות במעגל סגור הצופות אל רחובותיו. ומאז פחתו מעשי האלימות. תושביו היהודים של הרובע זוכים לאבטחה של יחידת לוחמים אזרחית המופעלת על ידי מדינת ישראל, ומאז הקמתה השתפר הביטחון ברובע.
בעשור הראשון של המאה ה-21, החלו צעירים ערבים מוסלמים משכילים בני הרובע, ביחד עם סטודנטים מאוניברסיטת אל-קודס להפעיל מועדונים חברתיים וקהילתיים בו. במועדונים מתקיימות פעילויות עבור ילדים ונוער שנשרו ממסגרות חינוכיות ופעילויות הכשרה מקצועית לנשים. הפעילות נעשית ברובה בהתנדבות על ידי עובדים סוציאליים ופעילים בתחום הטיפול באמנויות. בין החוגים המוצעים חינם, חוגי ספורט ומחשבים, במטרה שהצעירים לא ישוטטו ברחובות הרובע ולא יתדרדרו לפשיעה.
חלק מהמועדונים ממומנים על ידי הווקף, אך רובם נתמכים על ידי ארגונים הומניטריים שונים מרחבי העולם. הפעילות הקהילתית שאורגנה עצמאית ברובע מתקבלת בעין יפה, ומתקיים שיתוף פעולה עם שירותי הרווחה העירוניים. פן נוסף של התעוררות הגרעין המקומי של הדור הצעיר והמשכיל, הוא השיפור הפיזי והאדריכלי של הבניינים. בסיוע תרומות מחוץ לארץ משופצות חזיתות בתים, ונערכים מבצעי ניקיון שכונתיים ופעולות הסברה בתחום התברואה ושימור המבנים.
ארכאולוגיה.
הרובע, כמו העיר העתיקה כולה, בנוי על חורבות בתים, קמרונות ושפכי הריסות אשר נבנו ונהרסו לסירוגין במשך אלפי שנים. מתחת לבתים רבים ישנם בורות מים ומעברי ניקוז קדומים. על כן, מפלס החיים ברובע המוסלמי כיום גבוה כ-2–4 מטר ממפלס העיר בתקופה הרומית. האזור רגיש ביותר מבחינה פוליטית, עקב קרבתו הרבה להר הבית ומעמדה הבינלאומי של העיר העתיקה ובשל צפיפות האוכלוסין הרבה; לפיכך מעט חפירות ארכאולוגיות נערכו בו. מאמצע המאה ה-19, התירו העות'מאנים מחקר ארכאולוגי לאנשי הקרן לחקר ארץ ישראל הבריטית, אשר גילו מערכות מנהרות תת-קרקעיות לצורכי מעבר בני אדם ולניקוז נוזלים בסביבות הר הבית, קשת רובינסון, ורחוב השלשלת. בדיקות וחפירות נערכו במתחם כנסיית סנטה אנה, הכולל את בריכת בית חסדא, במתחם מנזר האחיות ציון, במנהרות הכותל הצמודות אל הכותל המערבי ומתחת לבתי תושבי הרובע ובאזור שער שכם.
אדריכלות.
המבנים ברובע המוסלמי העומדים על תילם שלמים, כמו המבנים בעיר העתיקה כולה, הם מייצגים של מנעד סגנונות אדריכליים, על פי טעמם של כובשי העיר והאדריכלות האופיינית לתרבותם ולזמנם. ובהם, מבנים מהתקופה המוסלמית הקדומה (1099-638), שאדריכלותה מצטיינת בתכנון ההנדסי ובעיטורים מרהיבים חקוקים באבן ופסיפסים; מהתקופה הצלבנית (1187-1099) שנבנו לצרכים דתיים או לביצורים בסגנון רומנסקי (ובפריטיה האדריכליים אף נעשה שימוש משני במבנים חדשים); ומהתקופה הממלוכית (1517-1260) שאדריכלותה בעיר ביטאה את השאיפה האיסלאמית: "לעשות את ירושלים מרכז מוסלמי רב-לאומי לתפילה ולימודי דת". סגנונם של המבנים משלוש התקופות הללו אחיד בכול תקופה בדרך כלל. ואילו שפתם התכנונית-אדריכלית של המבנים מהתקופה העות'מאנית אינה אחידה. לצדה של הבנייה העות'מאנית הממסדית-שלטונית, כגון החומות והשערים ומתקני מים ציבוריים, הוקמו מבני ציבור על ידי אירופאים, ובשלל סגנונות: נאו-קלאסי, נאו-ביזנטי, נאו-גותי ואחרים, אשר לתכנונם העדכני לתקופתם הועסקו אדריכלים "ידועי שם בארצותיהם". תושבי הרובע נהגו לבנות בלי אישורי מהנדס ובאיכות גרועה, והתמוטטות מבנים הייתה עקב כך לחזון נפרץ. רבים מהמבנים, במיוחד המבנים למגורים פרטיים, במצב רעוע ביותר, עקב תוספות בנייה מצטברות, שנבנו זו על גבי זו, וללא תכנון הנדסי, במשך מאות שנים.