Huangshan består av tre bydistrikter og fire fylker: Bydistriktet Tunxi (屯溪区), 249 km², 150 000 innbyggere; Bydistriktet Huangshan (黄山区), 1 669 km², 160 000 innbyggere; Bydistriktet Huizhou (徽州区), 424 km², 100 000 innbyggere; Fylket She (歙县), 2 236 km², 500 000 innbyggere; Fylket Xiuning (休宁县), 2 125 km², 270 000 innbyggere; Fylket Yi (黟县), 847 km², 100 000 innbyggere; Fylket Qimen (祁门县), 2 257 km², 190 000 innbyggere.