Auster nació en Newark (Nueva Jersey), en una familia judía de clase media de ascendencia polaca, sus padres eran Queenie y Samuel Auster.