Finalmente, su ejército sería decisivamente vencido en la segunda batalla de Cholet, el 17 de octubre, por el general Jean Baptiste Kléber (1753-1800). Elbée, gravemente herido durante el combate, debió retirarse a Beaupréau y después a la isla de Noirmoutier; tres meses después, cuando los republicanos tomaron posesión de la isla, fue llevado ante un tribunal militar que lo sentencio a muerte, siendo fusilado en la plaza mayor del pueblo sentado sobre una silla por no poder estar de pie a causa de sus heridas (esta aún se conserva en el museo en que se convirtió el castillo local). Su esposa sería fusilada veinte días más tarde y su cuerpo quedaría sin enterrar. Su hijo serviría en los ejércitos napoleónicos, destacando en Leipzig. Fue herido en Hanau, muriendo en un hospital de Potsdam al año siguiente.