I 1877 kom Joseph til USA, der han gikk på college ved i Latrobe i Pennsylvania. Bayerske benediktinere virket der under erkeabbed Bonifaz Wimmer, blant dem Joseph Schrembs eldre bror, fader Rudesind Schrembs. Broren hadde også lyst til å flytte til Amerika, og den tidligere prior i Latrobe, fader Rupert Seidenbusch, O.S.B., apostolisk vikar av , støttet dette.