Eric Kandel 1929. november 7-én született Bécsben, galíciai eredetű zsidó családban. Apja, Hermann Kandel a Lemberg melletti Oleszkóban született, az első világháború alatt az osztrák hadseregben harcolt, majd a háború után Bécsben játékboltot nyitott. 1923-ban vette feleségül Eric anyját, a kolomijai származású Charlotte Zimelset. Eric abba az elemi iskolába járt, ahová öt évvel idősebb bátyja, Lewis is. 1938 tavaszán Németország annektálta Ausztriát és megkezdődtek a zsidóüldözések. A Kristályéjszaka során a boltjukat kifosztották. 1939 elején a családnak sikerült Belgiumba menekülnie, majd hajón New Yorkba utaznia, ahol Eric anyai nagyapja fogadta be őket. Hamarosan a saját lábukra álltak, Hermann Kandel előbb egy fogkefegyárban dolgozott, majd ruhaboltot nyitott.