Som ung var Hertz jr. amatørbokser, konkurrerte under navnet Dan Donnelly. Han vant amatørmesterskap i Chicago og begynte å bokse under sitt eget navn og ble manager for den gang kjente bokser, Benny Yanger. Han bodde i Fifth Avenue 880.