Etter første verdenskrig fantes det først ingen militær etterretningstjeneste. Først våren 1920 begynte enkelte tidligere medarbeidere i den keiserlige hærens etterretningstjeneste under ledelse av major Friedrich Gempp å organisere en avdeling som ble kalt innenfor , som forsvaret da ble kalt. 1. januar 1921 ble Riksvernministeriet, det føderale forsvarsdepartementet, grunnlagt. Denne datoen kan også regnes som grunnleggelsesdato for Abwehr, som organisatorisk ble organisert som en gruppe i ministeriet.