През пролетта на 1915 г. турските власти започват да провеждат политика на геноцид по отношение на арменците. Баграмян се присъединява като доброволец към руската армия. Служи във 2-ри кавказки пограничен полк, част от Кавказката армия. През почти цялата война участва в бойните действия на Кавказкия фронт срещу Османската империя. През юни 1917 г. Баграмян завършва военната академия в Тифлис с чин прапоршчик от императорската руска армия. Формацията, в която служи, е разпусната, когато Временното руско правителство е свалено след избухването на Октомврийската революция.