Am 18. April 1887 wurde er zum Koadjutorerzbischof von Armagh und Titularerzbischof von "Anazarbus" ernannt. Nach dem Tod Daniel McGettigans folgte er ihm am 3. Dezember desselben Jahres als Erzbischof von Armagh nach und wurde damit Primas von ganz Irland. Papst Leo XIII. nahm ihn am 16. Januar 1893 als Kardinalpriester in das Kardinalskollegium auf und er erhielt am 19. Januar des gleichen Jahres die Titelkirche "Santa Maria della Pace". Er war der erste Erzbischof von Armagh, der zum Kardinal erhoben wurde. Er beteiligte sich an den Konklaven 1903, 1914 und 1922, die die Päpste Pius X., Benedikt XV. und Pius XI. wählten. Logue übernahm die Fertigstellung der viktorianischen neugotischen Kathedrale St. Patrick in Armagh. Die neue Kathedrale, die Armagh überragt, weihte er am 24. Juli 1904.