北高而西南低，最高点位于东北部与南投县、嘉义县交界处的玉山主峰，高度3,952公尺，不仅是台湾最高峰，也是东亚第一高峰。全县依地势与坡度，大致可区分为东北部山地区、中部丘陵区及西南部平原区。东北部山地区位于楠梓仙溪中游及荖浓溪中游以东地区，大致分属中央山脉与玉山山脉，总面积约佔全县总面积的二分之一。绝大部分地区海拔超过1,000公尺，坡度多在40％以上，只有两溪主支流河谷上，才有小范围的河阶或河谷平原。位于县境东侧的中央山脉主稜线山地及其西侧科坡又称为关山山块，主脉由北而南有云峰、南双头山、三叉山、关山