中埔乡及番路乡为界，东与阿里山乡及高雄市那玛夏区毗连，南与台南市南化区、楠西区接壤，西与台南市东山区、白河区为邻。地理四极位置如下：本乡同时与台南市、高雄市相邻，是全国唯二同时与两个直辖市相邻的乡、镇、县辖市（另一为新竹县尖石乡，该乡同时与桃园市、台中市相邻）。
地形.依据地理学家林朝棨所作之全台湾地形分区，大埔乡全乡位处阿里山山脉范围内。由于曾文溪中上游各支流的切割，可再细分为西部山地、大埔河蚀盆地、东北部山地、东部山地及位于东南部的后堀溪河谷地。西部山地属西乌山