Schereschewsky ble etter alt å dømme oppkalt etter sin far. Moren var Rosa Salvatha. Han ble foreldreløs i barndommen, og han ble muligens oppdratt av en halvbror som var velhavende som trevarehandler. Ettersom han gjorde det godt på skolen, var det slektens ønske at han skulle utdannes til rabbiner. Men først virket han som privatlærer og glassarbeider. I rabbinerskolen i Zhitomir kom han over et eksemplar av Det nye testamente på hebraisk, utgitt av London Society for Promoting Christianity amongst the Jews. Ved egenstudier av dette ble han etterhvert overbevist om at Jesus av Nasaret måtte være den Messias som ble profetert i den jødiske Bibel.