Sargsian studerte filologi ved Statsuniversitetet i Jerevan. Han var aktiv i kommunistpartiet i sin hjemby Stepanakert og i regionen Nagorno-Karabakh.