淮平原中部，属北方与南方的过渡地带，四周环山，平原、丘陵相间，属江苏省内平均海拔较高的市。徐州有大洞山、泉山、皇姑山、拉犁山、云龙山、小泰山、卧牛山等山峰，其中主城区有72座山头。位于贾汪区北部的大洞山为全市海拔最高点。徐州的河流有故黄河、京杭运河、沂河、沭河等。其中，黄河在南宋建炎二年（1128年）改道，经由徐州城东北，夺淮入海。至清咸丰五年（1855年），黄河再度改道，经山东入渤海。留下现在的黄河故道。黄河流经徐州期间，决堤频繁，对徐州人民的生产生活造成较大影响。现在的徐州城有“城上城”之说，就是因