于其左岸。城市的大部分位于，仅在荒川沿岸有少许低地。台地上有鸭川、等河流流过。东部以及其支流为界与莲田市与伊奈町接壤，西北部则以荒川支流为界与桶川市接壤。以宿驿「」为中心的旧中山道一带从江户时代开始变得繁华，明治时期日本铁道将铁路修到此处并开设上尾站。到昭和时期纵贯市区南北的国道17号通车，把市区分成东西两部分。市区以上尾站为中心发展。昭和40年代，4座住宅区（原市住宅区·尾山台住宅区·西上尾第一住宅区·西上尾第二住宅区）相继建起，使得该市人口急剧增加。最近多家郊外型大型零售店均在该市拥有分店。