Balin var sønn av jødiske innvandrer i USA fra Østeuropa. Da han var fire år, flyttet familien til California.