Ter-Ghevondyan nació en El Cairo, Egipto, en una familia armenia que había huido de la ciudad de Marash en la época del Imperio otomano durante las masacres del Genocidio armenio. A fines de la década de 1940, su familia fue repatriada a la República Socialista Soviética de Armenia y allí fue admitido de inmediato en la Universidad Estatal de Ereván.