Toen Hitler in 1933 aan de macht kwam, stond von Stauffenberg aanvankelijk positief tegenover het nieuwe regime. Hij meende dat de nationaalsocialistische politiek goed voor Duitsland zou zijn. Maar hij keerde zich al snel tegen de radicale ideeën van Hitler. Hij realiseerde zich wat de Duitse expansiepolitiek in Oost-Europa zou meebrengen. Hij voorzag ook de nadelige gevolgen voor Duitsland van een oorlog met West-Europa. Bovendien kon hij zich niet verenigen met de nazi-politiek aangaande de Joden. Na de "Reichskristallnacht" van 9 november 1938 distantieerde hij zich van de nazi's en koos hij in het geheim de kant van het verzet. Ondertussen maakte hij snel carrière in het leger.