Jabarkan Era Klasik dari Yerusalem

Pada tahun 538 SM, Kaisar Persia Koresy Agung mengundang orang Yahudi dari Babilonia agar pulang ke Yehuda untuk membangun kembali Bait tersebut. Pembangunan Bait Kedua terselesaikan pada tahun 516 SM dalam masa pemerintahan Darius Agung, 70 tahun setelah penghancuran Bait Pertama.

Beberapa saat setelah tahun 485 SM, Yerusalem dikepung, ditaklukkan, dan sebagian besarnya dihancurkan oleh suatu koalisi negara-negara tetangganya. Pada sekitar tahun 445 SM, Raja Artahsasta I dari Persia mengeluarkan sebuah dekret yang memperbolehkan kota ini (termasuk temboknya) untuk dibangun kembali. Yerusalem kembali berperan sebagai ibu kota Yehuda dan pusat ibadah Yahudi.

Banyak makam Yahudi dari periode Bait Kedua telah ditemukan kembali di Yerusalem. Salah satu contoh yang ditemukan di utara Kota Lama berisikan jasad manusia dalam sebuah osuarium yang dihiasi dengan inskrispsi Aramaik bertuliskan "Simon sang Pembangun Bait." Makam Abba, juga terletak di utara Kota Lama, menyimpan sebuah inskripsi Aramaik dengan huruf Paleo-Ibrani yang kira-kira dapat dibaca: "Aku, Abba, putra imam Eleazar, putra Harun sang imam besar, Abba, yang tertindas dan teraniaya, yang lahir di Yerusalem, dan pergi ke dalam pembuangan di Babilonia dan membawa (kembali ke Yerusalem) Matatias, putra Yehuda, dan menguburnya di sebuah gua yang kubeli dengan akta." Makam Benei Hezir yang terletak di Kidron dihiasi dengan inskripsi Ibrani dan kolom-kolom Doria yang monumental, diidentifikasi sebagai situs pemakaman para imam Bait Kedua. Makam Sanhedrin, suatu kompleks bawah tanah yang berisikan 63 makam berupa lubang pahatan dalam batu karang, terletak di sebuah taman publik di Sanhedria di Yerusalem utara. Makam-makam ini, mungkin dikhususkan bagi para anggota Sanhedrin serta ditorehkan tulisan Aramaik dan Ibrani kuno, bertarikh antara tahun 100 SM dan 100 M.

Ketika Aleksander Agung menaklukkan Kekaisaran Persia, Yerusalem dan Yudea berada di bawah kendali Makedonia, pada akhirnya jatuh ke dalam kekuasaan Dinasti Ptolemaik pimpinan Ptolemaios I. Pada tahun 198 SM, Dinasti Seleukid pimpinan Antiokhos III merebut Yerusalem dan Yudea dari Ptolemaios V. Upaya Seleukid untuk menata kembali Yerusalem sebagai suatu negara-kota Helenis mencapai puncaknya pada tahun 168 dengan terjadinya pemberontakan Makabe yang dipimpin oleh Matatias dan lima putranya melawan Antiokhos IV Epiphanes, serta pendirian Kerajaan Hashmonayim oleh mereka pada tahun 152 SM dengan Yerusalem sebagai ibu kotanya.

Pada tahun 63 SM, Pompeius Agung turut campur tangan dalam suatu perjuangan demi singgasana Hashmonayim dan merebut Yerusalem, sehingga memperluas pengaruh Republik Romawi atas Yudea. Setelah suatu invasi singkat oleh orang Partia, yang mana mendukung para penguasa Hashmonayim lawannya, Yudea menjadi suatu tempat perjuangan antara pasukan pro-Romawi dan pro-Partia, yang akhirnya memicu bangkitnya seorang Edom bernama Herodes.

Seiring dengan semakin kuatnya Roma, Herodes diangkat sebagai raja klien Yahudi. Herodes Agung, sebagaimana ia dikenal, mengabdikan dirinya untuk mengembangkan dan memperindah kota ini. Ia membangun berbagai tembok, menara dan istana, serta memperluas Bukit Bait Suci juga memperkuat halamannya dengan blok-blok batu dengan berat mencapai 100 ton. Dalam masa pemerintahan Herodes, areal Bukit Bait Suci dilipatgandakan luasnya. Tak lama setelah wafatnya Herodes, Yudea pada tahun 6 M berada dalam pemerintahan Romawi secara langsung sebagai Provinsi Yudea, kendati Dinasti Herodian hingga Agripa II tetap menjadi raja klien atas wilayah di sekitarnya sampai tahun 96 M. Kekuasaan Romawi atas Yerusalem dan wilayahnya menghadapi tantangan dalam Perang Yahudi-Romawi Pertama yang berakhir dengan kemenangan Romawi. Bait Kedua dihancurkan pada tahun 70 M, dan seluruh kota dihancurkan dalam perang tersebut. Yosefus, sejarawan Yahudi pada saat itu, menuliskan bahwa kota ini "hampir seluruhnya diratakan dengan tanah oleh mereka yang menghancurkannya sampai fondasinya, sehingga tidak ada yang tersisa yang pernah dapat meyakinkan para pengunjung bahwa di situ pernah menjadi suatu tempat pemukiman." Kekuasaan Romawi kembali ditantang selama pemberontakan Bar Kokhba yang bermula pada tahun 132 M dan ditumpas oleh orang Romawi pada tahun 135 M.

Setelah pemberontakan Bar Kokhba, Kaisar Hadrianus menggabungkan Provinsi Yudea dengan provinsi-provinsi di sekitarnya dengan nama baru Syria Palaestina untuk menggantikan nama Yudea. Kota ini diganti namanya menjadi Aelia Capitolina, dan dibangun kembali dengan gaya seperti suatu kota Romawi pada umumnya. Orang Yahudi dilarang memasuki kota ini, dengan konsekuensi hukuman mati, kecuali untuk satu hari pada setiap tahunnya yaitu saat hari peringatan Tisha B'Av. Bila digabungkan, langkah-langkah tersebut (yang mana juga berdampak pada kaum Kristen Yahudi) pada dasarnya merupakan "sekularisasi" kota ini. Larangan itu dipertahankan hingga abad ke-7, walau kaum Kristen segera diberikan pengecualian sebab sepanjang abad ke-4 Kaisar Romawi Konstantinus I memerintahkan pembangunan tempat-tempat suci Kristen di kota ini, misalnya Gereja Makam Kudus. Sisa-sisa pemakaman dari periode Bizantin secara eksklusif bercorak Kristiani, sehingga menunjukkan bahwa populasi Yerusalem pada zaman Bizantium kemungkinan hanya meliputi kaum Kristen.

Pada abad ke-5, kelanjutan Kekaisaran Romawi di belahan timur memerintah dari Konstantinopel yang belum lama memperoleh nama barunya ini, dan mempertahankan kendali atas Yerusalem. Dalam rentang beberapa dekade, Yerusalem berpindah tangan dari kekuasaan Bizantium ke Persia, lalu kembali lagi ke dalam kekuasaan Bizantium-Romawi. Menyusul tekanan Khosrau II dari Sasaniyah pada abad ke-7 melalui Siria, Shahrbaraz dan Shahin jenderal-jenderalnya ini menyerang Yerusalem () dengan dibantu oleh kaum Yahudi dari Palaestina Prima, yang mana telah bangkit untuk melawan kaum Bizantin.

Dalam Pengepungan Yerusalem pada tahun 614, setelah 21 hari pengepungan militer tanpa kenal lelah, Yerusalem direbut. Kronik-kronik Bizantin menceritakan bahwa kaum Sasaniyah dan Yahudi membantai puluhan ribu orang Kristen di kota ini, banyak di antaranya di Kolam Mamilla, serta menghancurkan berbagai bangunan gereja dan monumen mereka, termasuk Gereja Makam Kudus. Episode tersebut telah menjadi subjek banyak perdebatan di kalangan sejarawan. Kota taklukan ini tetap berada dalam kendali Sasaniyah selama kurang lebih 15 tahun hingga Kaisar Bizantium Heraklius merebutnya kembali pada tahun 629.

Yerusalem mencapai puncaknya dalam hal luas wilayah dan populasi pada akhir Periode Bait Kedua, yaitu ketika kota ini mencakup wilayah seluas dua kilometer persegi dan jumlah penduduknya 200.000 orang.