De 1935 a 1938 o OKH foi dirigido por Werner von Fritsch, de 1938 ao 19 de dezembro de 1941 pelo Marechal Walther von Brauchitsch. O fracasso da ofensiva alemã contra Moscou na Operação Barbarrossa induziu que Hitler despedisse Brauchitsch da chefia do OKH, assumindo o próprio Hitler a direção do planejamento militar (ainda que ele não fosse militar de carreira). Seu comando entretanto levou a desastrosas derrotas do exército alemão na frente leste, e em pouco tempo, na frente oeste. Hitler se manteve como o chefe do OKH até 30 de abril de 1945, data de sua morte.