התקופה ההלניסטית בארץ ישראל החלה עם כיבוש הארץ בידי אלכסנדר מוקדון בשנת 332 לפנה"ס, והסתיימה במרד החשמונאים בשנת 167 לפנה"ס. את התקופה ההלניסטית בירושלים אפיין פער הולך וגדל בין אנשי השכבה המבוססת, בני האליטה השלטונית שבחרו לאמץ את תרבות יוון (התייוונות), לבין רוב יהודי העיר, "עמך", ששמרו על מסורת אבותיהם. לקראת סוף התקופה העמיק הפער כאשר מתייוונים זכו בתפקיד הכהן הגדול, מה שהוביל בעקיפין למרד החשמונאים. עם זה, לאורך תקופה זו ידעה ירושלים, לרוב, שקט ושלווה. העיר נהנתה מאוטונומיה יחסית בניהול ענייניה, וזכתה לפיתוח עירוני ניכר - לקראת שדרוג מעמדה לפוליס.
דמותה של ירושלים בתקופה ההלניסטית אינה נהירה כל צרכה, במיוחד בימי שלטון מלכי בית תלמי ממצרים. באשר לתקופתם של שליטי בית סלאוקוס, הן ספר מקבים ב' והן יוסף בן מתתיהו
(קדמוניות היהודים ספר י"ב) מספרים על תנופת בנייה, בעיקר בימי יאסון, ששקד להפוך את ירושלים לפוליס, עם כל המוסדות המקובלים. ארכאולוגים התאמצו, מאז תחילת המחקר בשנת 1841, לאתר את המבנים המצוינים במקורות אלו - הגימנסיון, האפבאון, התיאטרון ועוד, ואולם - עד היום טרם התגלה דבר.
היקאטאיוס איש אבדירה, שחי בסוף המאה הרביעית לפני הספירה, מספר: "ירושלים היא העיר הבצורה היחידה ביהודה, גודלה כחמשים אצטדיות ומספר תושביה כשתים עשרה רבבות איש (120,000). באמצע עיר זו נמצא בית המקדש". היקאטאיוס מסר את מידותיו של בית המקדש, הזכיר את אש התמיד, את המזבח ואת המנורה, הדגיש שאין שם שום פסל ומצבה ושום חורשה המקודשת לעבודת אלילים, ואף הזכיר את עבודת הכהנים שאינם שותים יין בבואם אל ההיכל.
תקופת החשמונאים.
מרד החשמונאים פרץ ב-167 לפנה"ס, ובית המקדש טוהר כליל ב-164 לפנה"ס. מאז, במשך 25 שנה, שלטו החשמונאים בחסות סלאוקית, כאשר סמוך לבית המקדש - בחקרא, שכן חיל מצב סלאוקי. ב-141 לפנה"ס נכבשה החקרא על ידי שמעון התרסי, והוא החריבה עד היסוד. בשלהי תקופת בית שני, כעבור 70 שנה, פרץ ריב אחים מר בין יורשיו של אלכסנדר ינאי. שני הצדדים פנו אל נציג המעצמה החדשה שעלתה על במת ההיסטוריה, המצביא הרומאי פומפיוס שהגיע לאזור, וביקשוהו להכריע מי ישלוט בארץ. בשנת 63 לפנה"ס אבדה סופית הריבונות היהודית בארץ ישראל, כשפומפיוס נכנס בראש חיל רב אל בית המקדש. כעשרים וחמש שנים מאוחר יותר, בשנת 37 לפנה"ס, התמנה בנו של אנטיפטרוס - הורדוס, למלך יהודה בחסות רומא.
במשך כ-80 שנה, מ-140 לפנה"ס ועד 63 לפנה"ס, הייתה ירושלים לבירת מדינה, ולאחר מכן לבירת ממלכה עצמאית. מעצם היותה בירת מדינה וממלכה עצמאית, נהנתה ירושלים מתנופת בניה, והוקמו בה בנייני ציבור ומוסדות שלטון. מנהג העלייה לרגל העשיר אותה, ועליית יהודים אליה מרחבי הארץ ומהתפוצות הרחיבה את גבולה באופן ניכר. ירושלים הייתה למרכז פוליטי חי ודינמי, מרכז דתי יצרי ויצירתי, ומרכז תרבותי - הן יהודי והן הלניסטי.
בתקופת החשמונאים החל המפעל רב-הממדים של יישוב העיר העליונה וביצורה בהיקף רחב. בין השנים 134–142 לפנה"ס נבנתה החומה החשמונאית, שהקיפה וביצרה את שטח הגבעה המערבית ( הר ציון) ואת העיר העליונה. בתקופה החשמונאית נבנו בירושלים שני מבני-מידות שלא נותר מהם זכר: האחד היה מצודת הבירה, אשר שכנה בדיוק במקום בו הקים הורדוס את מצודת אנטוניה; מבנה שני אותו חיפשו החוקרים לשווא, היה ארמון החשמונאים. הארמון צפה אל המקדש, והמלך (שהיה באותו זמן גם כהן גדול) יכול היה לפקח על עבודת הכוהנים ממרפסת ארמונו. בתקופת החשמונאים נבנו גם מספר מפעלי מים לאספקת צורכי העיר ההולכת וגדלה; לשם כך הוקם מפעל להולכת מים אל בריכת אגירה באזור הצפון-מערבי של הר הבית, הנקרא "המנהרה החשמונאית". המנהרה ניקזה את מימי נחל בית זיתא והטירופיאון אל בורות בשטח מצודת הבירה, או הר הבית. בנוסף, נחצבה בתקופה החשמונאית, (כנראה בתקופת ינאי) האמה התחתונה ששימשה להובלת מי מעיין עין עיטם שליד בית לחם אל הר הבית. מפעל הנדסי זה היה מורכב ומתוחכם, ומעיד על יכולת טכנית והנדסית בלתי מבוטלת.
תקופת הורדוס.
ימי שלטונו של הורדוס עמדו בסימן שלום, שקט, שגשוג כלכלי ובנייה מרשימה. הוא שלט בירושלים במשך שלושים ושלוש שנה (4–37 לפנה"ס), וכל ימיו ניסה להתמודד ולתמרן בין הנאמנות לפטרוניו ברומא, לבין מחויבותו לנתיניו היהודים. הורדוס הפך את ירושלים לעיר הלניסטית, אלילית, שהייתה בו-זמנית גם עיר יהודית מרכזית. בית המקדש נבנה בפאר רב, והכהנים עסקו בעבודת הטהרה. מאות רבבות עולי רגל - ככל הנראה מיליון ומעלה- מילאו את רחובות העיר בימי שלושת הרגלים.
על תקופה זו נאמר בתלמוד:
את העיר תחם ממזרח נחל קדרון, מעליו בנויה חומת-התמך האדירה של הר הבית, העופל. הר הבית היה למעשה רחבת ענק, שבמרכזה התנשא בית המקדש. הרחבה הייתה מוקפת באכסדרות מארבעת צידיה, כשמדרום היה הסטיו המלכותי, המפואר. בפינתה הצפון-מערבית נמצאה מצודת אנטוניה. ממצודת אנטוניה נפרשה חומה שהקיפה את שכונתה הצפונית של העיר. למרגלות קיר התמך המערבי של רחבת הר הבית ("הכותל המערבי") השתרע רחוב העסקים המרכזי של העיר, (הקארדו). בצידו הדרומי של רחוב זה נמצאה קשת רובינסון, אשר נשאה גרם מדרגות גדול ממדים שהוביל ממפלס הרחוב אל הסטיו המלכותי. הכותל הדרומי של הר הבית הכיל את שערי הכניסה העיקריים למתחם המקודש, הם שערי חולדה. דרומה משם השתרע אזור של מקוואות-טהרה ציבוריים לרווחתם של עולי הרגל, ורחוב המוביל עד בריכת השילוח. ממערב לכותל המערבי נמצא ערוץ הטירופיאון העמוק, ומעבר לו - העיר העליונה, מקום מגוריהם של בני מעמד הכהנים ובעלי הממון שבעיר. את העיר העליונה חיבר אל הר הבית גשר שנבנה על קשת (קשת וילסון דהיום). ממערב לעיר העליונה, בקצה הדרומי - ניצב ארמון המלוכה של הורדוס, ומצפון לו - באזור המצודה ("מגדל דוד" של ימינו) ניצבה מצודת המגדלים. עד למצודה (מגדל היפיקוס) הגיעה החומה המקיפה את העיר מדרום, וממנה נמתחה חומה מערבה עד לכותל המערבי, לאורך ערוץ נחל צולב. מפעל בנייה אדיר זה ניכר עד היום - כ-90% מן הממצאים הארכאולוגיים בירושלים של ימי בית שני - מקורם בתקופת הורדוס.
ירושלים הייתה "חלון הראווה" של הורדוס כלפי העולם, והוא נהג להזמין, במיוחד אישים בעלי עוצמה מן האימפריה הרומית שיחזו בפאר העיר ובנייניה. אכן, פארה של ירושלים הרשים את המבקרים, ושמעה יצא למרחוק. ההיסטוריון הרומי פליניוס הזקן כתב:
חורבן בית שני.
לאחר מות הורדוס ומקץ תקופה קצרה של שלטון יורשיו, הפכה רומא את יהודה בשנת 6 לספירה לפרובינקיה רומאית בשם יודיאה שהייתה בשליטת נציבים. התקופה מתוארת בספרות כתקופה של אנרכיה, תסיסה ואלימות, כאשר פעילות השלטון מצטמצמת לגביית מיסים ותו לא. תחושת ההתמרמרות של הציבור היהודי גברה והלכה, עד שבשיאה פרץ המרד הגדול שהסתיים בחורבן הבית.
על פי ספר יוסיפון, במהלך השנה שבין 69 ו-70 התחוללה בירושלים מלחמת אחים עקובה מדם. מנהיגי הקנאים, לוחמי הגליל יוחנן מגוש חלב ושמעון בר גיורא, האשימו את ההנהגה המתונה בירושלים בסיבות לכישלון המרד בצפון ארץ ישראל ולא בחלו בהטלת שלטון טרור על מנת להשתלט על העיר.
בקיץ שנת 70 שב לרומא אספסיאנוס, המצביא הרומאי שניהל את המצור על ירושלים, והוכתר כקיסר. את מקומו ירש סגנו טיטוס, בנו, שהחל בכיבוש העיר מצפון, אזור החומה השלישית, משם התקדם אל מצודת אנטוניה וכבש אותה. בשלב זה התבצרו הקנאים בהר הבית ובעיר העליונה. בט' באב ג'תת"ל כבש טיטוס את הר הבית, והצית את בית המקדש. חודש לאחר מכן נפלה העיר העליונה, וירושלים נחרבה בשריפת ענק. במהלך המצור על ירושלים, שנמשך חמישה חודשים, נספו מאות אלפי אנשים. עם תום כיבוש העיר בידי כוחותיו של טיטוס, הייתה ירושלים לעיי חורבות.
איליה קפיטולינה - התקופה הרומית.
איליה קפיטולינה (בלטינית: COLONIA ÆLIA CAPITOLINA) הייתה עיר רומית שהוקמה בידי הקיסר הרומי אדריאנוס סביב שנת 130 לספירה, על חורבות ירושלים. קיימות עדויות עמומות הנתונות לפרשנויות שונות הנוגעות למצבה של ירושלים בפרק הזמן שבין חורבן בית שני בשנת 70 ועד לראשיתה של התקופה הביזנטית בארץ ישראל. ההיסטוריון הרומי דיו קסיוס מספר על הקמת איליה קפיטולינה, וכן על הקמת מקדש יופיטר על הר הבית, דבר המשתקף במטבעות שנטבעו בעיר והשתמרו. רוב המידע על שלהי ימי איליה קפיטולינה, ערב התנצרותה של האימפריה הרומית והפיכתה לאימפריה הביזנטית, מובא בכתבים נוצריים. מעמדה הרם של איליה קפיטולינה החל לרדת החל מאמצע המאה השלישית לספירה, עם פינויו ההדרגתי של הלגיון העשירי פרטנסיס מבסיסו שבעיר.