Andranik Markarjans Eltern stammten aus Sason und waren als Überlebende des Völkermords in die Provinz Aragazotn geflohen, wo sie im Dorf Irind lebten. Er studierte von 1967 bis 1972 an der Jerewaner Polytechnischen Ingenieurhochschule Computertechnik in der kybernetischen Abteilung (Jerewan war als Hauptstadt der Armenischen SSR ein Zentrum der sowjetischen Computerindustrie). Seit 1965 war er in der Politik engagiert und seit 1968 Mitglied der Nationalen Vereinigten Partei, die in der Armenischen SSR von 1967 bis 1987 im Untergrund operierte. Seit 1973 gehörte er dem Vorstand der Partei an. Er kritisierte das totalitäre sowjetische System, verteidigte die armenischen Angelegenheiten und drückte seine Vision der Zukunft der armenischen Bürger in einem demokratischen und unabhängigen Staat aus. Von 1972 bis 1974 war Markarjan wissenschaftlicher Mitarbeiter eines Kollegs, später Ingenieur in der Niederlassung Jerewan des Forschungsinstituts der Gasindustrie. 1974 wurde er wegen seiner politischen Aktivitäten verhaftet und als "nationalistischer Dissident" zu zwei Jahren Haft verurteilt.