Los primeros judíos se asentaron en Zamość en 1588, ocho años después de la fundación de la ciudad por el canciller Jan Zamoyski. Eran sefardíes provenientes del Imperio Otomano y Venecia y, en consecuencia, establecieron la comunidad más septentrional de Europa del Este. Fueron los sefardíes quienes construyeron la primera sinagoga en Zamość en la década de 1590 con una estructura de madera. En 1610, después de que se rescindieran las restricciones que prohibían a los judíos construir sinagogas de piedra, se erigió el edificio de ladrillo actual, que tardó ocho años en completarse. La comunidad sefardí original dejó de existir en la década de 1620 cuando se asimiló a la incipiente comunidad asquenazí. Después de una crisis económica causada por la acumulación de deudas incobrables por parte de los deudores polacos. Los judíos asquenazíes habían comenzado a asentarse en Zamość a principios del siglo XVII atraídos por la importancia comercial de la ciudad. La afluencia de judíos asquenazíes aumentó en la década de 1640, especialmente por los refugiados que huían de las masacres antijudías perpetradas por las tropas de Bogdán Jmelnitski durante la revuelta ucraniana contra el régimen polaco.