范围位居台湾中央地带，地跨花莲、高雄、南投、嘉义4县市4乡10村，地形可概分为东埔山块、玉山山块及中央山块三大区，是浊水溪、高屏溪及秀姑峦溪三大河川最重要的上游集水区。玉山山脉的岩层地质年代较老，而隔邻的阿里山山脉的岩层则大多是地质年代较年轻的砂岩、页岩和砂页岩互层；根据地质年代上连续的特性以及两条山脉间具有多条组条大断层的地质，有一说推论阿里山山脉原本位于玉山山脉之上，因东方板块强烈挤压而断裂，上方较年轻的岩层往西滑动，形成了阿里山山脉，下方较老的岩层则形成玉山山脉。但有不认同这项理论的观点指出是阿里