Bet Hamidraş Hagadol
Jacob Joseph dönemi

Ash 1887'de vefat edince Birleşik İbrani Ortodoks Cemiyetleri, hem Bet Hamidraş Hagadol'da hahamlık yapacak hem de New York'un hahambaşısı olacak kişiyi aramaya koyuldu. Bu arayışa Şearit İsrael cemiyeti hahamı Henry Pereira Mendes tarafından karşı çıkıldı. 1886'da Sabato Morais ile Jewish Theological Seminary of America (JTSA)'yı kuran Mendes, para ve enerjinin JTSA için harcanmasını daha uygun bulmaktaydı. Kuzey Amerika'da güçlenen reformist akımla mücadele eden Mendes'in görüşüne göre, Yidiş dili konuşan hahamlar tutmaktansa, yerli İngilizce konuşan hahamlar tutmak genç nesilleri daha çok cezbedecekti.
Amerikan Ortosoks İbrani Cemiyetleri Birliği, Morais'in duruşunu reddedip "Doğu Avrupa'nın önde gelen hahamlarına" bu makam için teklifte bulundu fakat bu kişilerin hepsi teklifi geri çevirdi. En nihayetinde Zvi Rabinovitch ve Jacob Joseph isimli iki aday üzerine odaklanıldı. Rabinovitch, "Doğu Avrupa'nın önde gelen hahamları" tarafından desteklenmiş olsa da cemiyet Jacob Joseph'i New York'un ilk (ve tek) hahambaşısı olarak seçti.
Litvanya'nın Kroz şehrinde doğan Joseph, Naftaku Zvi Yehuda Berlin'in öğretmenlik yaptığı Volojin Yeşivası'nda eğitim gördü; keskin zekası nedeniyle kendisine Rav Yaakov Harif ("Haham Yakup Keskin") denmekteydi. Kendisi, Yisroel Salanter'in ana takipçilerinden biriydi ve 1883'te Vilna'da magidliğe (vaiz) atandı. Bet Hamidraş Hagadol ve Eldridge Street sinagoglarının yanı sıra Lower East Side'daki 13 sinagog, New York Ortodoks cemaatlerinin merkezi olarak Avrupa stilli bir kehila yaratmak için 2500$'ı bir araya getirip (bugünkü değeriyle 65.000$) başa Joseph'i getirdi. Joseph'in yıllık maaşı 2500$'dı ve buna ek olarak  1000$ kira parası, mobilya ve elektrik, su gibi giderlerin masrafları tedarik edilmektedydi. Her ne kadar Joseph'in başa getirilmesinin kısmi nedeni Ortodoks cemiyetlerine prestij getirmesi olsa da ana sebebi, kaşer endüstrisindeki kaosa çeki düzen vermekti.
Joseph 7 Temmuz 1888'de New York'a vardı ve bu ayın sonunda Bet Hamdiraş Hagadol'da Şabat seremonisiyle göreve başladı. Verdiği konuşma ilgiyle takip edilirken ibadethanede 1500 kişi ve ibadethaneye sığmayan 1000 kişi de dışarıda bulunmaktaydı. Polis güçleri, izdihamı engellemek ve Joseph'in sinagoga girebilmesini sağlayabilmek için ilave birlikler takviye etti. Seçilmesinin sebeplerinden biri Avrupa'da verdiği demeçlerle "harikulade bir hatip" olmasıydı fakat Jospeh'in bu yeteneği New Yorklu Yahudileri beklenilen kadar etkilemedi. Abraham Cahan'a göre, "Vilna'da, onun sözlerini iştahla içen aynı kişiler, buradaki törenin ortasında sinagogu terk ettiler."
Ekim 1888'de Joseph, hahambaşı olarak ilk önemli duyurusunu yaptı. Kümes hayvanlarıyla ilgili işletmelerin Yahudi kanunlarına uygun olarak çalışmasını sağlayabilmek için yeni yönetmelikler getirdi. Bu yönetmeliklerin uygulandığını gözlemlemek için kurulan ajansa maddi destek, zamlanan et ve tavuk fiyatlarından tedarik edildi. Bundan etkilenen iş yerleri ve müşteriler bu fazladan vergiyi ödemeyi reddetti. Hoşlarına gitmeyen bu durum Rusya'nın ete uyguladığı korobka vergisine benzetildi ve "Ocak 1889'da 'ithal edilmiş haham'a karşı organize büyük bir toplantı düzenlendi." Joseph, hiçbir zaman kaşer et piyasasını düzenlemede başarı sağlayamadı.
Joseph, insanların Şabat'ta yapmaması gereken işler hakkında demeç verse de bu nutuk halk tarafından pek umursanmadı ve Yidiş dilinde yaptığı seremoniler genç nesil üzerinde etki yaratmadı. Buna ek olarak başka zorluklarla yüzleşti: idari işler konusunda bir deneyimi veya eğitimi yoktu, başta Joshua Seigel olmak üzere yerli Ortodoks hahamlar onun otoritesini kabul etmedi ve Ortodoks olmayan Yahudiler onu eleştirdi. Sorunların alevlenmesiyle birlikte 1895'te beyin kanaması geçiren Joseph kısmen felç oldu ve 1900'da durumun nüksetmesiyle yatalak hale geldi.
19. yüzyılın sonlarında, New York'taki diğer sinagoglar, Rusya, Polonya veya Romanya'nın belirli kasabalarından gelen belli Yahudi zümrelerine hitap etmekteydi. Bet Hamidraş Hagadol ise, kökenleri ne olursa olsun bütün Yahudilere kucak açtı. Sinagogun, Pesah bayramında, bayramın üsullere uygun olarak kutlayabilmeleri için fakir Yahudilere yardım eden Pesah Yardım Komitesi bulunmaktaydı. 20. yüzyıla girildiğinde Bet Hamidraş Hagadol'un yıllık geliri 5000$ (bugünkü değerle 140.000$) ve Pesah yardımı için sunduğu yıllık erzağın bedeli 800$'dı (bugünün değriyle 22.000$). Fakirlere verilen haftalık bağış 15$ yani bugünün değeriyle 400$'dı. 1901 itibarıyla sinagogun yıllık geliri 6000$ (bugünkü değeri 168.000$) ve üye sayısı 150 idi.
Joseph'in görevi sırasında Bet Hamidraş Hagadol, Amerika Ortodoks Yahudi Cemiyetleri Birliği'nin kurulmasına yardımcı oldu. 1898 baharında, aralarında Ohav Zedek Cemiyeti, Eldridge Street Sinagogu, Şearit İsrael Cemiyeti ve Bet Hamidraş Hagadol'un da bulunduğu 50 New York Ortodoks cemiyeti, örgütün kurulduğu toplantıda yer aldı. 1980'lerde Ortodoks Birliğinde binden fazla üye cemiyet bulunmaktaydı.
Joseph, ABD'ye geldiği yıl olan 1888'den 62 yaşında öldüğü yıl olan 1902'ye kadar sinagogun hahamlığını yaptı. Maaşını kaşer işletmelerden gelen vergilerle alacağını düşünen Joseph'in ailesi, bu gerçekleşmeyince fakirliğe sürüklendi. Ölümünün ardından, sinagog kendi mezarlığında ona yer ayırıp karısına 1500$ (bugünkü değerle 40.000$) verdi ve ayrıca karısını ayda 15$ maaşa bağladı. Cenazesine, "ona hakketiği gibi davranmadığından pişmanlık duyanlarla birlikte" 100.000 kişi katıldı.