Den 11. august samme år utnevnte pave Pius X Schrembs til første biskop i det nystiftede bispedømmet Toledo. Han virket der i ti år. Fra 1911 til 1921 etablerte biskop Schrembs 14 nye menigheter og 22 skoler. Han inviterte søsterordener til å virke i bispedømmet, blant annet for solene og særlig for oppdragelsen av polske barn.