亚、菲律宾海板块相挤撞而高隆，主稜脉略呈十字形，南北长而东西短，十字之交点即为玉山主峰，区域范围位居台湾中央地带，地跨花莲、高雄、南投、嘉义4县市4乡10村，地形可概分为东埔山块、玉山山块及中央山块三大区，是浊水溪、高屏溪及秀姑峦溪三大河川最重要的上游集水区。玉山山脉的岩层地质年代较老，而隔邻的阿里山山脉的岩层则大多是地质年代较年轻的砂岩、页岩和砂页岩互层；根据地质年代上连续的特性以及两条山脉间具有多条组条大断层的地质，有一说推论阿里山山脉原本位于玉山山脉之上，因东方板块强烈挤压而断裂，上方较年轻的岩层