Zhumadian består av ett bydistrikt og ni fylker: Bydistriktet Yicheng (驿城区), 770 km², 580 000 innbyggere, sete for lokalregjeringen; Fylket Queshan (确山县), 1 783 km², 500 000 innbyggere; Fylket Biyang (泌阳县), 2 789 km², 950 000 innbyggere; Fylket Suiping (遂平县), 1 080 km², 540 000 innbyggere; Fylket Xiping (西平县), 1 098 km², 840 000 innbyggere; Fylket Shangcai (上蔡县), 1 517 km², 1,36 millioner innbyggere; Fylket Runan (汝南县), 1 306 km², 780 000 innbyggere; Fylket Pingyu (平舆县), 1 285 km², 940 000 innbyggere; Fylket Xincai (新蔡县), 1 442 km², 1,02 millioner innbyggere; Fylket Zhengyang (正阳县), 1 904 km², 740 000 innbyggere.