人工开凿的大石佛，唐宋时期开凿的摩崖石刻，北宋年间张山人故址，晋商创建的山西会馆，雍正年间徐州知府李根云创建的云龙书院，光绪年间徐州知府田庚倡建的船厅等历史文化古迹，还有民国时期建造的碑廊、御碑亭等。东山腰有一北魏时期的古寺，名曰“兴化寺”，山巅是北宋张天骥的故址，其中有放鹤亭、招鹤亭、饮鹤泉等古迹。西山腰为清朝康熙年间建造的大士岩、五十三参、半山亭。山西侧黄茅冈有苏轼当年醉卧的石床。然而，由于徐州历史上久经战乱，许多珍贵的历史文化遗产遭到惨重破坏。解放初期，徐州百废待兴，人民政府对云龙山重要古迹进行了