André Glucksmann var sønn av to østerrikske jøder som flyktet til Frankrike da Adolf Hitler kom til makten. Faren kom fra Bukovina, moren fra Praha. Faren døde ung, og familien var nær ved å havne i konsentrasjonsleir, men ble reddet ved sønnens franske statsborgerskap. Under siste delen av annen verdenskrig arbeidet og bodde familien på et barnehjem som familien Rothschild hadde opprettet. Da André var ti år, forlot hans mor ham slik at han fikk klare seg på egen hånd.