Carnuntum var fra begynnelsen av en romersk militærleir, . Dets navn er alltid skrevet med «K» på monumenter og er avledet fra keltisk («varde»). Dets navn opptrer første gang i historien under styret til Augustus (år 6 e.Kr.) da Tiberius gjorde den til sin militærbase for krigføringen mot Maroboduus (Marbod), en leder av den germanske stammen markomannere. Betydelig romanisering skjedde da byen var valgt som garnison for Legio XV Apollinaris. Noen få år senere ble den et senter for de romersk befestningene langs Donau fra Vindobona (i dag Wien) til Brigetio (Ó-Szőny). Under Trajan eller Hadrian ble Carnuntum fast base for Legio XIV Gemina og hovedstad for Øvre Pannonia.