Schon sehr früh, etwa um 1935, kam er aus innerer Überzeugung in Kontakt zu Widerstandskreisen, für die er auch nach einigem Zögern seinen Bruder Claus und seinen Vetter Peter Graf Yorck von Wartenburg gewinnen konnte. Seine Wohnung in der Tristanstraße 8–10 in Berlin-Nikolassee, in der auch sein Bruder Claus ab dem 1. September 1943 zeitweilig wohnte, war ein häufiger Treffpunkt der am gescheiterten Attentat und Umsturzversuch vom 20. Juli 1944 beteiligten Personen.