De följande åren engagerade sig Beck i motståndet mot nazismen och blev tillsammans med Carl Goerdeler en av motståndets centralfigurer. Hans opposition mot Hitlerregimen riktade sig inte mot att den var auktoritär utan mot dess maktmissbruk. Han deltog aktivt i attentatsförsöket 1944 mot Adolf Hitler och det var tänkt att han skulle bli Tysklands riksföreståndare (Reichsverweser) och överbefälhavare för krigsmakten (Wehrmacht). När han fick kännedom om attentatets misslyckande, ville han ta sitt liv. Två gånger försökte han förgäves att skjuta sig med sin pistol. Generalöverste Friedrich Fromm befallde då en officer att skjuta honom, men när officeren vägrade, sköt en underofficer Beck i ett angränsande rum.