Weber wurde nach dem Hitler-Attentat vom 20. Juli 1944 im Rahmen der „Aktion Gitter“ verhaftet und in das Konzentrationslager Natzweiler im Elsass deportiert. Über das Konzentrationslager Dachau kam Weber zuletzt ins KZ Mauthausen bei Linz, wo er am 25. September 1944 den unmenschlichen Haftbedingungen erlag. Die Urne mit seiner Asche gelangte nach Singen, wo sie beigesetzt wurde.