Tre dagar efter attentatet mot Adolf Hitler den 20 juli 1944 arresterades Canaris av Walter Schellenberg och kom att tillbringa sin sista tid i koncentrationslägret Flossenbürg i Bayern, där han tillsammans med Dietrich Bonhoeffer, Hans Oster, Carl Sack och Ludwig Gehre avrättades genom hängning den 9 april 1945.