r grup bu binada ibadetlerini sürdürdü. 1948'de başlayan inşaat Ocak 1850'de ibadete açıldı.
Büyük ölçüde orijinaliyle aynı kalan yapı, kim olduğu bilinmeyen bir mimar tarafından Neogotik stille inşa edildi.

Bina, yapım aşamasındayken kilisenin bulunduğu muhitin etnik yapısı, gelen İrlandalı ve Alman göçmenlerle değişmekteydi. Üyelerin kuzeye taşınmasıyla cemiyet binayı 1860'da Alanson T. Biggs isimli bir tüccara sattı.

Biggs, binayı bir Metodist kiliseye çevirdi ve 1862'de mülkiyeti Alanson Metodist Episkopal Kilisesi'ne devretti. Başarılı bir dönem geçiren kilisenin 1873'te 572 üyesi vardı. Bu zamandan sonra üye sayısı azalan kilise maddi zorluklarla karşılaştı. 1878'de bina New York City Church Extension and Missionary Society'ye devredildi.

1866'da kurulan "Church Extension and Missionary Society"nin görevi "New York'ta kiliseleri, misyonerliği ve pazar okullarını teşvik etmekti". Daha çok fakir veya gelişmekte olan muhitlerde yoğunlaştıp kiliseler kurdular ve bunlardan biri Birinci Rumen-Amerikan cemiyetinin bulduğu binaydı. Norfolk Street binasının alımından kısa bir süre sonra "Church Extension and Missionary Society", muhitin daha çok Yahudi ve Alman olduğunu farkına vardı. 1884'te kilisenin çok büyük ve masraflı olduğuna kanaat getirdiler ve satışa sundular.

1885'te Bet Hamidraş Hagadol tarafından 45.000$'a (bugünkü değerle 1.2 milyon $) satın alınan binada 10.000$'lık (bugünkü değerle 260.000$) değişiklik yapıldı fakat açılışa kadar binanın dış cephesine dokunulmadı. Yapılan değişiklikler arasında Tora tomarlarının bulunduğu kemer ile bimanın inşası ve kemerin önüne eklenen "ebedi ışık" yer almaktaydı. Bir süre sonra, binanın üç tarafını çevreleyen kadın galerisi eklendi. Tavan açık mavi renkle ve yıldızlarla dekore edildi.

Yeni ve varlıklı üyeleri cezbetmenin yanı sıra, cemiyetin amacı önemli bir binayla prestij ve nispeten yeni göçmen olan Doğu Avrupa Yahudilerinin saygısını kazanmak ve ayrıca Lower East Side'daki Yahudilerin Manhattan'daki reform mantalitesindeki Yahudiler gibi "modern" olduğunu göstermekti. Aynı nedenle, Lower East Side'daki birkaç cemiyet ya yeni binalar satın aldı ya da inşa ettirdi. Cemiyetler ayrıca pahalı kantorlar tuttu ve bu durum 1886'da Kahal Adat Yeşurun'un yıllık 5000$'a (bugünün değeriyle 129.000$) P. Minkowsy'yi tutana kadar devam etti. Buna cevaben Bet Hamdiraş Hagadol, yüksek ücretle Avrupa'nın meşhur kantorlarından olan Israel Michaelowsky'yi (veya Michalovsky) işe aldı. 1888'de Bet Hamidraş Hagadol üyeleri arasında bankerler, avukatlar, ithalatçılar ve toptancılar bulunuyordu.

Önceden küçük çaplarda değişikliğe uğrayan binada asıl önemli değişiklikler 1890'larda yapıldı. "Muhtemelen Hristiyan motifleri bulunması nedeniyle" binanın ön yüzünda bulunan gül cam kaldırılıp, yine gotik stilli kemerli cam konuldu. Değişikliklerin yapılması için, birçok sinagog üzerinde çalışmalar yapmış olan Alman göçmenlerinin kurduğu Schneider & Herter mimarlık şirketiyle anlaşıldı. 1893'te bakımsızlıktan kaynaklanan "ciddi yapısal sorunlar" tamir edildi. Yapılan işler arasında "ön basamakları stabilize etme, gotik stille yatay destek için payanda ekleme, bodrumdaki orijinal sütunları 15 cm'lik dökme demir kolonlarla değiştirme" yer almaktaydı. Sonradan yapılan renovasyonlarda, bodrum katına inen ahşap merdivenler demir merdivenlerle değiştirildi.

İki Davud yıldızı binanın ön dış cephesine yerleştirildi. Bunlardan biri, eski resimde görüldüğü üzere, kemer camın üzerinde, diğeri ise, daha moden olan resimdeki gibi çatının üzerindeydi. Eski fotoğrafta görülen kubbemsi çatı bugün bulunmamaktadır. Ana kapının üzerinde iri harflerle yazılmış İbranice bir panel bulunmaktadır. Orta bölümün üst kısmındaki dekorasyon en azından 1974'e kadar varlığını sürdürdü.

Ash 1887'de vefat edince Birleşik İbrani Ortodoks Cemiyetleri, hem Bet Hamidraş Hagadol'da hahamlık yapacak hem de New York'un hahambaşısı olacak kişiyi aramaya koyuldu. Bu arayışa Şearit İsrael cemiyeti hahamı Henry Pereira Mendes tarafından karşı çıkıldı. 1886'da Sabato Morais ile Jewish Theological Seminary of America (JTSA)'yı kuran Mendes, para ve enerjinin JTSA için harcanmasını daha uygun bulmaktaydı. Kuzey Amerika'da güçlenen reformist akımla mücadele eden Mendes'in görüşüne göre, Yidiş dili konuşan hahamlar tutmaktansa, yerli İngilizce konuşan hahamlar tutmak genç nesilleri daha çok cezbedecekti.

Amerikan Ortosoks İbrani Cemiyetleri Birliği, Morais'in duruşunu reddedip "Doğu Avrupa'nın önde gelen hahamlarına" bu makam için teklifte bulundu fakat bu kişilerin hepsi teklifi geri çevirdi. En nihayetinde Zvi Rabinovitch ve Jacob Joseph isimli iki aday üzerine odaklanıldı. Rabinovitch, "Doğu Avrupa'nın önde gelen hahamları" tarafından desteklenmiş olsa da cemiyet Jacob Joseph'i New York'un ilk (ve tek) hahambaşısı olarak seçti.

Litvanya'nın Kroz şehrinde doğan Joseph, Naftaku Zvi Yehuda Berlin'in öğretmenlik yaptığı Volojin Yeşivası'nda eğitim gördü; keskin zekası nedeniyle kendisine Rav Yaakov Harif ("Haham Yakup Keskin") denmekteydi. Kendisi, Yisroel Salanter'in ana takipçilerinden biriydi ve 1883'te Vilna'da magidliğe (vaiz) atandı. Bet Hamidraş Hagadol ve Eldridge Street sinagoglarının yanı sıra Lower East Side'daki 13 sinagog, New York Ortodoks cemaatlerinin merkezi olarak Avrupa stilli bir "kehila" yaratmak için 2500$'ı bir araya getirip (bugünkü değeriyle 65.000$) başa Joseph'i getirdi. Joseph'in yıllık maaşı 2500$'dı ve buna ek olarak 1000$ kira parası, mobilya ve elektrik, su gibi giderlerin masrafları tedarik edilmektedydi. Her ne kadar Joseph'in başa getirilmesinin kısmi nedeni Ortodoks cemiyetlerine prestij getirmesi olsa da ana sebebi, kaşer endüstrisindeki kaosa çeki düzen vermekti.

Joseph 7 Temmuz 1888'de New York'a vardı ve bu ayın sonunda Bet Hamdiraş Hagadol'da Şabat seremonisiyle göreve başladı. Verdiği konuşma ilgiyle takip edilirken ibadethanede 1500 kişi ve ibadethaneye sığmayan 1000 kişi de dışarıda bulunmaktaydı. Polis güçleri, izdihamı engellemek ve Joseph'in sinagoga girebilmesini sağlayabilmek için ilave birlikler takviye etti. Seçilmesinin sebeplerinden biri Avrupa'da verdiği demeçlerle "harikulade bir hatip" olmasıydı fakat Jospeh'in bu yeteneği New Yorklu Yahudileri beklenilen kadar etkilemedi. Abraham Cahan'a göre, "Vilna'da, onun sözlerini iştahla içen aynı kişiler, buradaki törenin ortasında sinagogu terkettiler."

Ekim 1888'de Joseph, hahambaşı olarak ilk önemli duyurusunu yaptı. Kümes hayvanlarıyla ilgili işletmelerin Yahudi kanunlarına uygun olarak çalışmasını sağlayabilmek için yeni yönetmelikler getirdi. Bu yönetmeliklerin uygulandığını gözlemlemek için kurulan ajansa maddi destek, zamlanan et ve tavuk fiyatlarından tedarik edildi. Bundan etkilenen iş yerleri ve müşteriler bu fazladan vergiyi ödemeyi reddetti. Hoşlarına gitmeyen bu durum Rusya'nın ete uyguladığı "korobka" vergisine benzetildi ve "Ocak 1889'da 'ithal edilmiş haham'a karşı organize büyük bir toplantı düzenlendi." Joseph, hiçbir zaman kaşer et piyasasını düzenlemede başarı sağlayamadı.

Joseph, insanların Şabat'ta yapmaması gereken işler hakkında demeç verse de bu nutuk halk tarafından pek umursanmadı ve Yidiş dilinde yaptığı seremoniler genç nesil üzerinde etki yaratmadı. Buna ek olarak başka zorluklarla yüzleşti: idari işler konusunda bir deneyimi veya eğitimi yoktu, başta Joshua Seigel olmak üzere yerli Ortodoks hahamlar onun otoritesini kabul etmedi ve Ortodoks olmayan Yahudiler onu eleştirdi. Sorunların alevlenmesiyle birlikte 1895'te beyin kanaması geçiren Joseph kısmen felç oldu ve 1900'da durumun nüksetmesiyle yatalak hale geldi.

19. yüzyılın sonlarında, New York'taki diğer sinagoglar, Rusya, Polonya veya Romanya'nın belirli kasabalarından gelen belli Yahudi zümrelerine hitap etmekteydi. Bet Hamidraş Hagadol ise, kökenleri ne olursa olsun bütün Yahudilere kucak açtı. Sinagogun, Pesah bayramında, bayramın üsullere uygun olarak kutlayabilmeleri için fakir Yahudilere yardım eden Pesah Yardım Komitesi bulunmaktaydı. 20. yüzyıla girildiğinde Bet Hamidraş Hagadol'un yıllık geliri 5000$ (bugünkü değerle 140.000$) ve Pesah yardımı için sunduğu yıllık erzağın bedeli 800$'dı (bugünün değriyle 22.000$). Fakirlere verilen haftalık bağış 15$ yani bugünün değeriyle 400$'dı. 1901 itibarıyla sinagogun yıllık geliri 6000$ (bugünkü değeri 168.000$) ve üye sayısı 150 idi.

Joseph'in görevi sırasında Bet Hamidraş Hagadol, Amerika Ortodoks Yahudi Cemiyetleri Birliği'nin kurulmasına yardımcı oldu. 1898 baharında, aralarında Ohav Zedek Cemiyeti, Eldridge Street Sinagogu, Şearit İsrael Cemiyeti ve Bet Hamidraş Hagadol'un da buluduğu 50 New York Ortodoks cemiyeti, örgütün kurulduğu toplantıda yer aldı. 1980'lerde Ortodoks Birliğinde binden fazla üye cemiyet bulunmaktaydı.

Joseph, ABD'ye geldiği yıl olan 1888'den 62 yaşında öldüğü yıl olan 1902'ye kadar sinagogun hahamlığını yaptı. Maaşını kaşer işletmelerden gelen vergilerle alacağını düşünen Joseph'in ailesi, bu gerçekleşmeyince fakirliğe sürüklendi. Ölümünün ardından, sinagog kendi mezarlığında ona yer ayırıp karısına 1500$ (bugünkü değerle 40.000$) verdi ve ayrıca karısını ayda 15$ maaşa bağladı. Cenazesine, "ona hakketiği gibi davranmadığından pişmanlık duyanlarla birlikte" 100.000 kişi katıldı.

Joseph'in yerine, Rabbi Isaac Elchanan Teoloji Semineri destekçisi olan Ortodoks Hahamlar Birliği kurucusu Rabbi Shalom Elchanan Jaffe geçti. Vilna'da doğan Jaffe, Joseph gibi eğitimini Volozhin yeşivasında aldı, bunun ardından Naftali Zvi Yehuda Berlin ve Yitzchak Elchanan Spektor tarafından haham olarak atandı. Birkaç dini yorum kitaplarının yazarı olan Jaffe, Lower East Side'daki etkili hahamlardandı ve bunun sebeplerinden biri ise kaşer gözlemcisi ve New York kasap dükkanlarının ve mezbahalarının kendi otoritesinde olmasıydı. Güçlü bir Anti-Siyonist olan Jaffe, "Theodor Herzl'in vefatını sevinçle karşıladı."

1902'ye kadar cemiyetin başkan yardımcılığını yapan Harry Fischel, ileride damadı olacak olan Herbert S. Goldstein'ın Bar Mitsvasına katılmıştı. JTSA'da Jaffe tarafından hahamlığa