五年（前106年），设立十三刺史部。其中，徐州刺史部地处今江苏省长江以北和山东省西南部地区。但此时的徐州刺史部只是监察区，非真正意义上的行政区。东汉中平五年（188年）后，州成为正式的一级行政区域。徐州治彭城郡彭城县（今江苏省徐州市），领二郡三国：东海郡、琅邪国、彭城国、广陵郡、下邳国。建安三年（198年）前后，分琅邪、东海、下邳等郡国置城阳郡、利城郡、昌虑郡、东莞郡、东安郡、东城郡。后省併昌虑、东安、东城三郡。至汉末，徐州领六郡二国：彭城国、广陵郡、下邳郡、东海国、琅邪郡、城阳郡、利城郡、东莞郡。