Harz strekker seg fra byen Eisleben vestover i en lengde på 110 km og en bredde på 30–40 km. Den østligste delen har høyder opp mot 400 m og kalles , mens i vest når opp i over 1000 m. Unterharz er delvis oppdyrket, mens Oberharz er skogkledd og vernet som nasjonalpark. Mot vest og nord er overgangen mot det lavere omkring markant, mens det er en slakere helling mot øst. Hele Harz-massivet er gjennomskåret av elvedaler. Geologisk er Harz meget sammensatt, med bergarter fra silur til perm. Sure bergarter dominerer.