Stillingen ble opprettet under andre verdenskrig som Sjef Hærens Overkommando. I 1970 ble Forsvarets overkommando (FO) opprettet og Hærens Overkommando lagt ned. Sjef Hærens Overkommando ble da lagt inn under FO og endret navn til Generalinspektøren for Hæren. Som en del av langtidsplan for forsvarssektoren ble embets- og stillingstittelen endret til sjef Hæren fra 1. januar 2017.