Landsbyen har betydelige levninger fra en normannisk borg fra 1000-tallet og tilstøtende til denne den eldre festningen Dinas Powys som er en keltisk bygdeborg som har gitt landsbyen sitt navn. Bygdeborgen ble utgravd på 1950-tallet og det ble funnet bestemte bevis på en betydelig struktur i tømmer og et større antall av metallarbeider og smykker av høy status. Det var også gjenstander av glass og importert keramikk som er dater fra sub-romerske tid fra en gang mellom 400- og 600-tallet. Middelalderfestningen var opprinnelig setet til en normannisk adelsmann kalt baron de Sumeri, men bygningene gikk i forfall rundt 1322 da den mannlige greinen av de Sumeri døde ut. En historiker på 1500-tallet rapporterte at «alt ligger i ruiner».