Bei Ausbruch des Zweiten Weltkriegs 1939 ließ er sich in Forbach erneut als Seelsorger für die Armee rekrutieren. Nach der deutschen De-facto-Annexion Lothringens 1940 wich er nach Saumur aus, das in der von der Wehrmacht besetzten Zone Frankreichs lag, und war dort wieder als Rabbiner tätig. Zum Zeitpunkt des Rafle du Vélodrome d’Hiver am 16./17. Juli 1942 wurde auch Lévy festgenommen und verschleppt. Am 20. Juli 1942 wurde er mit dem Konvoi Nummer 8 von Angers aus in das Konzentrationslager Auschwitz deportiert. Lévy wurde dort ein Opfer des Holocaust.