Ter-Petrosian ble født i Aleppo i Syria til en familie som overlevde folkemordet på armenerne, og var med i en armensk motstandsgruppe ved Musa Dagh. Familien hans emigrerte til Sovjet-Armenia i 1946. I 1968 ble han uteksaminert fra statsuniversitetet i Jerevan. I 1972 fullførte han videreutdannelsen sin ved statsuniversitetet i St. Petersburg. I 1987 mottok han doktorgraden sin fra samme universitet. Mellom 1972 og 1978 jobbet Ter-Petrosian som forsker ved Armenias litteraturinstitutt. Fra 1978 til 1985 var han vitenskapssekretær ved Matenadaran-instituttet. Siden 1985 har han hatt stilling der som forsker.