Bet Hamidraş Hagadol
Joseph sonrası dönem

Joseph'in yerine, Rabbi Isaac Elchanan Teoloji Semineri destekçisi olan Ortodoks Hahamlar Birliği kurucusu Rabbi Shalom Elchanan Jaffe geçti. Vilna'da doğan Jaffe, Joseph gibi eğitimini Volozhin yeşivasında aldı, bunun ardından Naftali Zvi Yehuda Berlin ve Yitzchak Elchanan Spektor tarafından haham olarak atandı. Birkaç dini yorum kitaplarının yazarı olan Jaffe, Lower East Side'daki etkili hahamlardandı ve bunun sebeplerinden biri ise kaşer gözlemcisi ve New York kasap dükkanlarının ve mezbahalarının kendi otoritesinde olmasıydı. Güçlü bir Anti-Siyonist olan Jaffe, "Theodor Herzl'in vefatını sevinçle karşıladı."
1902'ye kadar cemiyetin başkan yardımcılığını yapan Harry Fischel, ileride damadı olacak olan Herbert S. Goldstein'ın Bar Mitsvasına katılmıştı. JTSA'da Jaffe tarafından hahamlığa atanan Goldstein, Harlem'de Institutional Sinagog'u kurdu. Goldstein, Amerika Ortodoks Yahudi Cemiyetleri Birliği, Amerika Hahamlar Konseyi ve Amerika Sinagog Konseyi'nin başkanlığını yapan tek kişiydi. Nisan 1929'da, Albert Einstein'a Tanrı'ya inanıp inanmadığını soran Goldstein'in telegrafına Einstein şu cevabı vermiştir: "Ben Spinoza'nın, kendisini doğa kanunları harmonisinde gösteren Tanrısı'na inanırım; insanların inancı ve hareketleriyle ilgilnen Tanrı'ya değil."
Bet Hamidraş Hagadol'a 1908'de 175 üye aile bulunurken yıllık geliri 10.000$'dı (bugünkü değeri 250.000$). 1909'da sinagog, reformist hahamları protesto etmek için büyük bir miting düzenledi. 1913'te gerçekleştirilen ve Jacob Schiff'in konuk konuşmacı olduğu "tarihi toplu miting"de Young Israel sinagogu için para toplandı. 1919'da üye aile sayısı 110'a düştü.
Tanınmış hatiplerden Dr. Benjamin Fleischer, Eylül 1924'te Bet Hamidraş Hagadol'un hahamı olarak seçildi. Bir yandan sinagogun hahamlığını yaparken diğer yandan da Revaluation. Miscellaneous essays, lectures and discourses on Jewish religious philosophy, ethics and history isimli felsefi çalışmasını hazırlayıp 1938'de yayımladı. Ayrıca 1941 askeri tarih eseri olan From Dan To Megiddo'yu yazdı. Mayıs 1939'da yanına iki haham daha alarak (ve dördüncü hahamın sekreter olduğu) ABD'deki ilk kalıcı bet din'i kurdu.
20. yüzyılın başlarından ortalarına kadar cemiyetin finansal durumu sağlam değildi; her ne kadar Norfolk Street binası 1885'te 45.000$'a satın alınıp 10.000$'lik masraf yapıldıysa da 1921'deki ipotek borcu hala 40.000$'dı (bugünkü değerle 520.000$) Bune ek olarak binanın tadilat masrafları mevcuttu; bundan iki yıl önce mimar George Dress tuvaletleri yeniden düzenledi, 1934'te mimar Philip Bardes, binanın güneydoğu köşesine tuğla ekleme yaptı ve 1930 veya 1940'larda ibadethanedeki beş kemer üstü dolgusunun dördüne Doğu Avrupa etkisiyle renkli resimler ve Kudüs, Kutsal Topraklar ve Tevrat hikâyeleri müralleri eklendi. Aralık 1946'ın sonunda zamanın cemiyet başkanı Abraham Greenwald'ın dediğine göre tadilatlar için acilen 35.000$ (bugünkü değerle 420.000$) bulunmazsa bina yıkılacaktı.
Holokost'tan kurtulmayı başaran az sayıdaki poseklerden biri olan Kaunas Getto'su dini liderlerinden Tevrat uzmanı Ephrain Oshry, 1952'de sinagogun hahamı oldu ve 50 yılı aşkın bir süreyle görevde kaldı. Holokost sırasında Naziler tarafından "nesli tükenmiş Yahudi ırkı nesneleri" müzesi için Yahudi kitaplarının saklandığı depoya bekçi olarak görevlendirildi. Oshry, Yahudilerin sıkça sorduğu Nazilerin empoze ettiği ekstrem durumlarda halahaya uygun Yahudi yaşamı nasıl olması sorusuna, bekçiliğini yaptığı kitaplardan yararlanarak responsa yazdı. Bulunup öldürülme pahasına "geceleri gizli ibadet hizmetleri" sunup Pesah için Yahudilerin matsa pişirmesine yardım etti. Bet Hamidraş Hagadol'un hahamı olmak için New York'a gelmeden evvel ilk önce İtalya'daki yetimler için bir yeşiva kurdu ardından Montreal'de başka bir dini okul açtı. Bet Hamidraş Hagadol'da pazar günleri verdiği demeçler o kadar popülerdi ki 1200 sandalyeli ibadethanede insanlar merdivenlere taşmaktaydı. Bet Hamidraş Hagadol'da hahamlık görevine devam ettiği süre içinde New York eyaletinin Monsey şehrinde ileri seviyedeki orta okul yaşındaki çocuklar için başka bir yeşiva daha açtı.
1967'de yeniden yıkılmayla yüz yüze kalan bina, Oshry'nin binayı New York Abidelerine tescil ettirmesiyle kurtarıldı. Bu zamanda cemiyetin 1400 üyesi bulunmaktaydı.
1974'te New York City Landmarks Preservation Commission (New York City Abideleri Koruma Komisyonu) binanın "harika" bir durumda olduğunu belirtip National Register of Historic Places'a eklenmesi için talepte bulundu. 19 Haziran 1974'te gözden geçirilen bu talep reddedildi. 1977'de bina yeniden boyanıp onarımdan geçtiyse de bunu takip eden yıllarda eskimeden ve çürümeden kurtulamadı.