玉山山脉，总面积约佔全县总面积的二分之一。绝大部分地区海拔超过1,000公尺，坡度多在40％以上，只有两溪主支流河谷上，才有小范围的河阶或河谷平原。位于县境东侧的中央山脉主稜线山地及其西侧科坡又称为关山山块，主脉由北而南有云峰、南双头山、三叉山、关山、海诺南山、小关山、卑南主山等多座3,000公尺以上高峰。位于县境西侧的玉山山脉平均高度略低，但地形亦如关山山块一般高低起伏、崎岖不平，除上述小范围河阶或河谷平原外，大体仍属不适人居的山地。中部丘陵区位于东北部山地区的西南侧，大致为介于荖浓溪中游——下淡水溪