O vzniku synagogy není mnoho známo, avšak zřejmě se vyvinula z veřejné židovské bohoslužby během babylónského vyhnanství v 6. století př. n. l. Tato bohoslužba nezahrnovala oběť, ale čtení z Tóry a proroků spolu s jejich výkladem. V některých místech se takováto synagogální bohoslužba mohla odehrávat v soukromých domech, jinde vznikly náročné stavby. Takové bohoslužby v synagoze se podle evangelií účastnil i Ježíš (např. Lk 4,16-24). V této praxi pokračovali i první křesťané, avšak po zničení jeruzalémského chrámu během první židovské války roku 70 došlo k oddělení synagogy a církve, která se více a více skládala z křesťanů původem z pohanství.