Anonymus, notaren til kong Béla III, skrev at det alt sto en borg her da ungarerne først okkuperte området. Borgen var sannsynligvis en festning oppført av frankere på 800-tallet. Borgene i Veszprém, Esztergom og Székesfehérvár, var de første ungarske stenborgene som ble oppført i regjeringstiden til Géza, en tid da motteborger var mer vanlig.