El conjunto de las cuevas aparece delimitado por un muro de ladrillo con almenas curvilíneas y decorado con estrellas, círculos, flores y el escudo del fundador, así como el año de su construcción (1598).