Fiindcă avusese domiciliu forțat, Canaris nu a putut fi inculpat ca participant activ la Atentatul din 20 iulie 1944 împotriva lui Hitler, dar Himmler l-a convins pe Hitler de legăturile sale cu complotiștii. La 29 iulie Walter Schellenberg, însoțit de doi agenți a venit să-l aresteze la domiciliu, lăsându-i pentru o oră opțiunea de a-și „rezolva singur problemele personale" (de a se sinucide). Amiralul s-a spălat, s-a bărbierit și s-a urcat în mașina care-l aștepta. Canaris nu s-a sinucis deoarece - cunoscând tentativele de negociere ale lui Himmler cu Aliații occidentali pentru capitularea Germaniei - a mizat pe o fisură între Führer și adjunctul său, drept la care ai-a cerut lui Schellenberg să-i aranjeze o întrevedere cu Reichsfůhrer-ul SS (vezi mai sus, Heinz Höhne, biograful lui Canaris, a sugerat că acesta ar fi colaborat cu Himmler la planificarea unei schimbări de regim). Himmler, poate de teamă să nu afle Hitler, poate datorită vechii ranchiune, a refuzat să-l primească.