O período do Primeiro Templo acabou em quando os Babilônicos conquistaram o Reino de Judá e destruíram o Templo de Jerusalém. Em , depois de 50 anos de Cativeiro Babilónico, o rei persa permitiu que os judeus regressassem para reconstruir Jerusalém e o templo sagrado. A construção do Segundo Templo foi completada em durante o reino de Dario I, setenta anos após a destruição do Primeiro Templo. Quando Alexandre, o Grande conquistou o Império Persa, a Terra de Israel ficou sob controle helenístico e depois sob controle da Dinastia ptolomaica que depois o perdeu para o Império Selêucida. A tentativa dos selêucidas de reformar Jerusalém como uma polis helenística chegou ao máximo em com a bem sucedida revolta dos Macabeus de Matatias o Sumo Sacerdote e os seus cinco filhos contra Antíoco IV Epifânio, e o estabelecimento deles do Reino Hasmoneu em com Jerusalém novamente como sua capital. O Reino Hasmoneu durou mais de cem anos, mas quando o Império Romano se fortaleceu ele instalou Herodes como um "rei freguês" judeu, ou seja, aquele que governa um estado satélite (estado independente que tem muita influência de um outro país). O Reino de Herodes também durou cem anos. O fato de os judeus serem derrotados na Grande Revolta Judaica em , a primeira das Guerras judaico-romanas, e na Revolta de Barcoquebas em 135 contribuiu para os números e a geografia da diáspora, pois uma grande parte da população judaica da Terra de Israel foi exilada e muitas pessoas foram vendidas como escravos por todo o Império Romano. Desde então, judeus começaram a morar em quase todo os países do mundo, principalmente na Europa e Oriente Médio, sofrendo discriminação, preconceito, opressão, pobreza e até genocídio ("veja": anti-semitismo, Holocausto). Houve períodos, todavia, de prosperidade cultural, econômica e individual em vários locais, como em Alandalus e na Haskalá.