域一直到19世纪江户时代结束都使属于的领地。19世纪明治维新后，这些区域曾先后隶属奈良县、郡山县、小泉县，直到1871年第一次府县整併后，全数划入奈良县；但在1876年的第二次府县整併中，随着奈良县的废除改隶属堺县，1881年堺县也遭到废除后改隶属大坂府。一直到1887年重新设立奈良县后，才再次隶属奈良县。1889年日本实施町村制，现在的大和郡山市辖区在当时分属郡山町、、、、、、、共8个行政区划。1940年代开始，郡山町陆续併入週边的行政区划，于1954年升格为市，但由于当时在福岛县已有「郡山市