摩崖石刻有明代兵部右侍郎张翀的摩崖石刻诗“山下清泉出，林间百发来。寒云如可卧，不必问蓬莱”。柳宗元曾在此地为民祷雨，着有《雷塘祷雨文》传世。现存“祷雨文碑亭”、“祭台”及“雷塘庙”等建筑，另有张翀垂钓遗址“张钓台”，明代名士罗之鼎书斋“侧山楼”及鲤鱼嘴遗址。壮乡、瑶山、苗岭、侗寨傣村等少数民族村寨均按照各民族生活习俗建造。镜湖上的“龙潭风雨桥”为仿木钢筋混凝土廊桥式建筑。傍水而建的九层鼓楼为正四边形塔楼。另建有“木楼民居”和“轻松山房”等建筑。