En los comicios pluralistas de 1990, Sargsián fue elegido diputado del Soviet Supremo de Armenia, y en 1991, llegó a ser comandante táctico de las operaciones militares llevadas a cabo durante la Guerra de Nagorno Karabaj, en donde trabajó estrechamente con el Primer ministro de entonces, Robert Kocharián.