Det har vært bosetning i området siden tidlig i bronsealderen. På 500-tallet ble Dmanisi sioni-katedralen bygd i Dmanisi av den ortodokse kirke. På 800-tallet er byen omtalt som en del av det arabiske emiratet i Tbilisi. Lokalisert langs en handelsrute med mange kulturelle påvirkninger, var Dmanisi et større handels-sentrum i middelalderens Georgia. Byen ble erobret av Seljuq-tyrkerne på 1080-tallet, men ble senere frigjort av de georgiske kongene Kong David IV og Demetre I mellom årene 1123 og 1125. På 1300-tallet ble byen lagt øde av de tyrkisk-mongolske styrkene til Timur Lenk. Etter å ha blitt ødelagt på nytt av turkmenere i 1486, klarte aldri Dmanisi å gjenvinne sin storhet. Byen forfalt til å bli en lite befolket landsby på 1700-tallet.