A partir de entonces, fue a Nagorno-Karabaj para entrenar soldados. Ter-Tadevosyan fue nombrado Jefe del Comité de Defensa del Cuerpo de Entrenamiento en 1991. En 1992 fue nombrado comandante de la operación (denominada "Operación Boda en las montañas") para tomar la ciudad estratégica de Shushi, cuya captura el 9 de mayo de 1992 marcó la primera victoria militar significativa de las fuerzas armenias durante la Primera guerra del alto Nagorno-Karabaj. Ter-Tadevosyan es conocido en Armenia como el "cerebro de la liberación de Shushi". Participó en la formación de las Fuerzas Armadas de Armenia y la ayudó a superar desafíos importantes antes de que pudiera emerger como una institución bien desarrollada. El 25 de mayo de 1992, a Ter-Tadevosyan se le concedió el rango de General de División por sus logros durante la Primera Guerra de Nagorno-Karabaj. También recibió la Orden de la Cruz de Combate (1ª clase).