Aalen ligger ved elven Kocher, ved foten av Schwabisk Alb, som ligger sør og sørøst for byen. I nord ligger åslandskapet Ellwanger Berge. er en liten elv som kun løper innenfor byens territorium. Kocher ankommer byen i sør fra Oberkochen og renner i nordlig retning gjennom bydelen Unterkochen, passerer bykjernen og bydelen Wasseralfingen, før den forlater byen i nord i retning Hüttlingen. I nærheten av Aalen har også elvene Rems (ved Esslingen vest for Aalen) og Jagst (ved Unterschneidheim øst for Aalen) sitt utspring, begge er sideelver av Neckar, i likhet med Kocher.