I sin tidlige ungdom var Bismarck medlem av Bündische Jugend og Stahlhelm, det tysknasjonale folkepartiets paramilitære kamporganisasjon. Etter farens tidlige død var det meningen at han skulle studere landsbruksvitenskap og overta familiegodset. Kort etter at han hadde avtjent verneplikten begynte imidlertid annen verdenskrig, hvor han som reserveoffiser tjenestegjorde som bataljonskommandør med rang som oberstløytnant. Han ble tildelt Jernkorsets ridderkors.