השער המערבי של העיר הידוע בשם שער יפו היה קרוי בשם באב מחראב דאוד שם הקשור למגדל דוד. במפה ותיאורי העיר של ארקולף קרוי השער שער דויד – ובשם זה נקרא השער גם בתקופה הצלבנית.
השער הראשי של העיר היה ככל הנראה שער שכם ששמו בתקופה המוסלמית היה באב אלעמוד על שם עמוד ניצחון רומי, שניצב בסמוך לשער - כמופיע במפת מידבא. ארקולף מציין את השער בשם שער סטפנוס הקדוש שם שניתן בתקופת הקיסרית אודוקיה שבנתה בסמוך לשער כנסייה על שם סטפן הקדוש, גם בתקופה הצלבנית נקרא השער בשם זה.
לכיוון מזרח נפתח שער העומד במקום בו עומד שער האריות וממנו נמתחה דרך אל יריחו ונקרא בתקופה המוסלמית באב אריחא (שער יריחו) ארקולף קורא לשער שער בנימין.
בחומת הקיסרית אודוקיה נקבעו שערים הפונים מזרחה ודרומה אך מיקומם משוער ושרידיהם לא נמצאו. שערים אלו המוזכרים במקורות שונים כוללים את שער השילוח שפנה מזרחה לכיוון בריכת השילוח והוביל אל כיוון שכונת היהודים ששכנה באזור עיר דוד עד למאה ה-11. בדרום שכן שער ציון שהוביל אל מערכת המבנים הביזנטיים על הר ציון.
במשך כל התקופה המוסלמית עברה החומה הדרומית של איליה קפיטולינה בתוך העיר, בתוואי הזהה לתוואי החומה הטורקית המקיפה את העיר העתיקה של היום. בחומה זו נבנה שער בשם שער הניאה שחיבר את כנסיית הניאה באמצעות הקרדו המערבי אל שער שכם. קרדו נוסף – חיבר את שער שכם אל אזור הארמונות האומיים בדרום מזרח העיר – בסמוך להר הבית.
מגדל דוד.
בחפירות ארכאולוגיות שנערכו לאורך השנים בקו החומה המערבית והמצודה הידועה בשם מגדל דוד נתגלו שרידי בנייה במצודה שמיוחסים לתקופה המוסלמית ובהם מגדל עגול ושרידי קיר. החופר CN Johns שחפר במצודה מטעם מחלקת העתיקות של ממשלת המנדט הבריטי זיהה את השרידים עם ארמון אמיר המאמינים - מקום מושבו של שליט העיר, אך תוכנית המצודה בתקופה המוסלמית איננה ברורה. מממצאי חפירה זו עולה כי השער המערבי של העיר הידוע בשם שער יפו היה ממוקם, בתקופה המוסלמית, מזרחית מהשער הנוכחי.
רבעים.
בתקופה המוסלמית החלה העיר להתפצל לרבעים שהתאפיינו במגורים של בני קבוצות אתניות ודתיות מגובשות.
הרובע הנוצרי.
הנוצרים התגוררו ברוב השטח של ירושלים בשכנות מעורבת עם מוסלמים וערבים עד לסוף התקופה המוסלמית בה תחמו הנוצרים את מושבם והמוסלמים יצאו מתחום זה לאזורים אחרים בעיר. ברובע שלט אז הפטריארך היווני של ירושלים. על פי ויליאם מצור היו גבולות הרובע כדלקמן: הגבול הצפוני נקבע על ידי חומת העיר הנמשכת ממגדל דוד דרך מגדל הפינה – מגדל טנקרד ומשם עד לשער שכם. בתוך העיר נתחם הרובע על ידי הקרדו המערבי עד לאזור השווקים ומשם בזווית ישרה לכיוון שער יפו. מתאר זה מקביל – בשינויים קלים – לרובע הנוצרי של היום. ליבו של הרובע הייתה כנסיית הקבר ובסמוך לה עמד מסגד עומר. בשנת 1898 נתגלתה בסמוך לכנסייה כתובת שתוארכה על ידי שארל קלרמון-גנו לשנת 970 ובה חקוקה הכתובת:
במאה ה-8 החלו בעיר פעולות בנייה של קרל הגדול - אליו פנו נוצרים תושבי ירושלים בבקשת חסות. באזור המוריסטן נבנו אכסניות לעולי רגל ובהן אכסניה מפוארת לעולי רגל נוצרים, כנסייה על שם מרים הקדושה ושוק מרכזי (פורום) שהכנסותיו הקדש לכנסייה. ממבנים אלו לא נותר כל זכר והם ככל הנראה נהרסו בשנת 1009 בהוראת הח'ליף הפאטמי אל-חאכם באמר אללה.
סוחרים מהעיר האיטלקית אמאלפי שקשרי מסחר עם האימפריה המוסלמית העניקו להם פריבילגיות קיבלו רשות ושטח מתאים להקים מנזר, אכסניה לעולי רגל שסעדו את לבם בשיירי מזונם של הנזירים ובית תפילה. גם ממבנים אלו לא נמצא שריד אף על פי שהם נבנו - ככל הנראה - לאחר שלטונו של אל-חאכם באמר אללה.
הכיבוש המוסלמי של ירושלים הותיר את מבני הדת הנוצריים ללא פגע, אך החל מאירוע זה ועד תום התקופה התחולל תהליך של הרס ועזובה שהותיר את העיר ומוסדותיה הנוצריים במצב קשה. כנסיות ומנזרים שנהרסו במהלך כיבוש ירושלים בידי הפרסים ולא נכללו במפעל השיקום של מתודיוס לא שוקמו. עיקר ההרס והנזק נגרם לאורך התקופה כתוצאה מפעולות עוינות של מוסלמים שכללו מעשי שוד, הרס בידי השלטונות, ולעיתים מעשי רצח ופרעות. עזובה של המוסדות הואצה על ידי מיסים כבדים שהוטלו על מוסדות הדת. מנזרים ששכנו מחוץ להגנת חומות ירושלים הותקפו על ידי שבטי בדואים שלעיתים אף העזו לחדור אל תוך החומות.
כך ידוע על אירועים בהם הציתו מוסלמים חלקים מכנסיית הקבר בשנת 937 ובשנת 966 הוצתה שוב הכנסייה על מנת לאפשר ביזת חפצי הקודש. נזקים אלו ונזקי רעידות האדמה הרבות שפקדו את ארץ ישראל הוחרפו על ידי החוק המוסלמי שאסר בנייה, שיפוץ או הקמה מחדש של כנסיות ומנזרים, מתוך שאיפה לא מוסתרת להביא לדיכוי הפולחן הנוצרי הענף בירושלים וסביבותיה. שיקום נזקים מוגבל התאפשר רק בלחץ ולעיתים קרובות במתן שלמונים לשלטונות.
שכונת הקראים.
הקראים הגיעו לירושלים במהלך המאה ה-9 והתיישבו מחוץ לחומות העיר על הר הזיתים באזור הקרוי צלע היבוסי ולשכונה קראו צלע האלף על פי הפסוק מספר יהושע יח' כח' , בסמוך לשכונה זו פעל בית כנסת שומרוני בתוך קבר בני חזיר, ככל הנראה שכנה השכונה בכפר השילוח של היום אך לא נותרו כל שרידים ממנה.
הרובע היהודי.
בעיר הביזנטית איליה קפיטולינה לא התגוררו יהודים על פי חוק. במהלך התקופה הביזנטית ניתנה רשות ליהודים לבוא ולקונן מול הר הבית.
שינוי בסטטוס זה התרחש מיד עם כיבוש העיר בידי המוסלמים. במסמכים מהגניזה של קהיר מסופר שהח'ליף עומר עודד יהודים, תושבי טבריה להתיישב בירושלים ולשאלתו "היכן תרצו לגור בעיר?" ענו – "בדרום העיר, וזהו שוק היהודים". והייתה כוונת בקשתם קרבת המקדש ושעריו, וכן מי השילוח לטבילה.
מתעודה זו עולה, שבראשית ימי שלטונם של המוסלמים בירושלים התאפשר לקהילה יהודית של שבעים משפחות לגור בשכונה בדרום העיר ליד הר הבית ושעריו.
בשנות השבעים של המאה ה-20 נערכו חפירות ארכאולוגיות על ידי רשות העתיקות בשטחים שסמוכים לדרום הר הבית. בחפירות אלה נחשפו, מתחת ליסודותיהם של הארמונות האומיים, מבני מגורים הבנויים בתוכנית דומה של חדרים מסביב לחצר מרכזית פנימית, ותוארכו לתקופה הביזנטית. באחד ממבנים אלו, השוכן סמוך לפינה הדרומית-מזרחית של הר הבית נחשף משקוף דלת, מצופה בטיח לבן, ועליו מצוירים בצבע אדום שתי מנורות של שבעה קנים ולידם לולב ומחתה – סמלים יהודיים, האופייניים לאומנות היהודית של תקופת המשנה והתלמוד. מנורות מצוירות נוספות נתגלו גם במקומות אחרים במבנה על גבי הטיח שחיפה את קירות הבניין. במהלך ניקויו של משקוף המנורות נחשף צלב בתוך מסגרת עגולה חרוט באבן. ממצא זה מעיד כי המשקוף בבית היהודי שימש קודם לכן כמשקוף בבית שתושביו היו נוצרים. כמה עשרות שנים אחר כך נבחר המקום על ידי השליטים האומיים למפעל בנייה מונומנטלי ובזה בא הקץ על שכונת היהודים שליד הר הבית.
מרכז החיים ברובע היה בית הקהילה שנודע גם בשם המערה ובו פעל בית הכנסת, אך מקומו המדויק איננו ידוע.
לקראת תום התקופה עברו יהודי העיר להתגורר בחלק הצפון מזרחי של ירושלים, שם השתתפו בהגנת העיר בעת המצור הצלבני וספגו את מלוא עוצמת ההתקפה שהביאה לכיבוש העיר.
הר הבית.
כיפת הסלע.
כיפת הסלע (ערבית: قبة الصخرة, תעתיק מדויק: קבת א-לצח'רה, הגייה: קוּבַת אַ-סַ'חְ'רַה; נקראת לעיתים "כיפת הזהב") הוא המבנה המוסלמי העתיק ביותר שנשתמר ללא שינויים מהותיים, ונחשב למופת אדריכלי ואמנותי, ולפינת יסוד בתולדות האמנות והאדריכלות האסלאמיים. כיפת הסלע עצמה אינה מסגד, ולא נערכות בה תפילות בציבור, המבנה של כיפת הסלע הוא מהמפוארים במזרח התיכון. המבנה מתומן ובמרכזו כיפה, בנוי במפלס העליון של הר הבית. בדומה למספר מבני דת מועטים יחסית במזרח התיכון, למבנה אין כיוון מסוים, אלא הוא בנוי בקונצנטריות סביב העצם המקודש במרכזו.
בגג כיפת הסלע מצויה כתובת המתארכת את בנייתה לשנת 72 להג'רה, היא שנת 691/2, זמנו של הח'ליף עבד אל-מלכ מבית אומיה. מקובל לראות זאת כשנת חנוכת המבנה, אם כי ייתכן כי מדובר דווקא בתחילת הבנייה.
במרכזה של כיפת הסלע מצויה אבן השתייה (הצח'רה). פנים הכיפה עשוי סטוקו וערבסקות שצורתם מדליונים בעיטור פיתוחי צמחים ופרחים מרהיבים, אלפים במספר. מתחת לכיפה מצוי התוף, המעוטר בפסיפס שבתחתיתו כתובת אדירת ממדים, הנמשכת משני עבריו של הקיר, ובעלת אורך כולל של 240 מטר, ובה כתובת ההקדשה:
הח'ליף העבאסי אל-מאמון (813–833) שיפץ את המבנה, והחליף את פסיפסי הקיר שציינו כי המבנה נבנה על ידי הח'ליף עבד אל-מלכ בפסיפסים הנושאים את שמו, אולם לא שינה את תאריך הבנייה המופיע עליהם.
מסגד אל-אקצא.
מסגד אל-אקצא (ערבית: المسجد الأقصى, תעתיק מדויק: אלמסג'ד אל-אקצא) משמעות השם: "המסגד הרחוק ביותר" או "המסגד הקיצון". המונח "מסגד אל-אקצא" נזכר בקוראן, והפרשנות המוסלמית המקובלת, מייחסת את הפסוק למסע לילי, שעל-פי המסורת המוסלמית, ערך מוחמד ממכה אל הר הבית בירושלים. מסגד אל-אקצא נבנה תחילה מעץ, בתאריך לא ידוע. על פי מסורות אחדות, הוא הוקם במצוותו של הח'ליף עומר עצמו. בכל מקרה ידוע כי המסגד כבר עמד על תילו בשנת 679, כיוון שבן התקופה, הנזיר ארקולף, מעיד שראה את המבנה:
בשלב מאוחר יותר, נבנה במקום מבנה אבן. מרבית ההיסטוריונים הערבים מימי הביניים מייחסים את בנייתו לעבד אל-מלכ, בונה כיפת הסלע, ומיעוטם מייחסים אותו לבנו, וליד הראשון. המבנה הוקם מחדש לפחות חמש פעמים. הוא נהרס לחלוטין לפחות פעם אחת ברעידת אדמה ("רעש שביעית", באמצע המאה השמינית). הבניה המחודשת האחרונה הייתה ב-1035.
כיפת השלשלת.