Det har vært foreslått at det ligger forhistoriske befestninger under middelalderens festning, men dette har ikke blitt bevist. Det er dog funnet arkeologiske spor av romersk materiale innenfor området Dinefwr, og referanser i og indikerer at det nærliggende Llandeilo Fawr var av liten betydning før normannerne kom.