In theorie was het OKW het opperbevel van de Duitse strijdkrachten (Wehrmacht) die de coördinatie op zich moest nemen van de drie legermachten; de Duitse landmacht (Deutsches Heer), de Duitse zeemacht (Kriegsmarine) en de Duitse luchtmacht (Luftwaffe). In de praktijk bleek dat het OKW de persoonlijke Generale staf was van Adolf Hitler die zijn ideeën moest omzetten in uitvoerbare plannen en die in de beginjaren van de Tweede Wereldoorlog weinig gezag uitoefende over de drie andere bevelstructuren; het "Oberkommando des Heeres" (OKH), het "Oberkommando der Luftwaffe" (OKL) en het "Oberkommando der Kriegsmarine" (OKM). Er ontstond vooral een grote rivaliteit tussen het OKW en het OKH daar de meeste militaire operaties van nazi-Duitsland tijdens de Tweede Wereldoorlog acties waren van het Heer (met luchtondersteuning). Hitler ondersteunde echter "zijn" OKW waardoor het OKW naarmate de oorlog vorderde meer en meer gezag kon uitoefenen over het OKH. In 1941 besliste Hitler dat het Oberkommando des Heeres (OKH) het opperbevel van de Duitse strijdkrachten aan het oostfront moest opnemen en het OKW die van alle overige oorlogstheaters ( West-Europese front, Noord-Afrikaanse front en Italiaanse front).