Bagramyan fulgte i sin fars og sine brødres fotspor og begynte å arbeide for jernbanen etter å ha studert ved det tekniske instituttet i Tbilisi, der han ble uteksaminert med toppkarakterer etter tre år. Bagramyan vervet seg som frivillig til det russiske militæret den 16. september 1915. Etter den militære utdannelsen ble hans regiment sendt for å fjerne de ottomanske tyrkerne i Persia under den første verdenskrig. Bagramyan forble i regimentet frem til mai 1920.