V letech 1938 až 1940 byl zapojen do dalších plánů na provedení převratu. Do atentátu na Adolfa Hitlera 20. července 1944 nebyl Canaris přímo zapojen, nebo o tom alespoň neexistují důkazy. Canaris byl zatčen 23. července 1944 na základě výslechu svého nástupce ve vojenském zpravodajství Georga Hansena. Hansen svou roli ve spiknutí z 20. července přiznal, Canarise označil za svého „duchovního iniciátora“. Při vyšetřování tajné státní policie byl nalezen Canarisův deník, kde byly uvedeny jeho kontakty s odbojem proti národnímu socialismu. Deník byl počátkem dubna 1945 ukázán Hitlerovi. 9. dubna 1945 byl Canaris po rozsudku stanného soudu SS oběšen v koncentračním táboře Flossenbürg. Předsedou soudu byl Otto Thorbeck, prokurátorem Walter Huppenkothen.