El ejército moderno tiene sus raíces en el Ejército de Rodesia, surgido entre 1963 y 1964 después del quiebre de la Federación de Rodesia y Nyasalandia. Un "Alto Mando Conjunto" fue creado en marzo de 1980 para supervisar la integración de las antes beligerantes Fuerzas de Seguridad de Rodesia, Ejército Africano para la Liberación Nacional de Zimbabue y Ejército Revolucionario del Pueblo Zimbabuense, que dieron lugar al Ejército Nacional de Zimbabue a fines de 1980, casi un año después del fin de la Guerra civil de Rodesia.