Han ble født i 1868 i Kielce, Polen i en jødisk familie, som et av ni barn til skredderen og den småkriminelle, Ansel Lis. Da Joseph ble født lå Kielce i det russiske Polen.