Erenberg ble født i Ukraina, som den gang var en del av Det russiske keiserdømmet. Familien flyttet til Chicago i USA da han var 3 år gammel. Han hadde én bror og én søster.