Navnet Armagh er avledet fra det irske ordet i betydningen «høyt» (eller «høyt sted») og . Sistnevnte, Macha, er en førkristen gudinne assosiert med hester og som er nevnt i . Hun er også sagt å være ansvarlig for bygdeborgen Emain Macha (i dag festningen Navan Fort i nærheten av byen Armagh) som fungerte som hovedkvarteret for Ulaid-kongene (som har gitt sitt navn til Ulster), også tenkt å ha betydningen «Machas høyde». Ard Macha ble senere anglisert som , som til sist ble Armagh.