Bagramyan giftet seg i 1922 med Tamara Hamayakovna som var enke etter en armensk offiser som hadde blitt drept under den tyrkisk-armenske krig og etterlatt henne med deres ett år gamle sønn, Movses. Movses vokste opp til bli maler, og sammen hadde de datteren Margarit, som senere ble lege. Hans kone døde i 1973.