Jack Ruby ble født i Chicago. Foreldrene var ortodokse jøder av polsk herkomst. De utvandret til USA i 1903 og bosatte seg i det jødiske området på Chicagos vestkant. Jack var nummer fem av i alt åtte barn.