通铁路历史较早，但长期只有皖赣铁路一条传统铁路，且车次较少、速度较慢。2015年，市内首条高速铁路合福客运专线通车，连通省会合肥及江西、福建等地。2018年，杭黄客运专线通车，黄山、杭州两市车程缩短至一个半小时左右。目前，黄山市正在建设或规划中的铁路有皖赣复线、昌景黄高铁，以及黄山至金华、衢州、池州等地的铁路。黄山市内的主要铁路枢纽站有黄山站、黄山北站、歙县北站等。
公路.黄山市是交通运输部规划确定的国家公路运输枢纽城市之一，规划建设的黄山国家公路运输枢纽将形成“一环七射”的高