郡最初被称为"kōri，"在日本有着很深的历史渊源。虽然《日本书纪》中说郡是在大化改新中建立的，但有考证指出，当时被写作“”（日语读音相同）。直到《大宝律令》颁布后，"kōri"才开始被写作“郡”。
历史.郡是日本自646年的大化改新后开始使用的行政区划，当时日本的行政区划为国、郡、里三级，国置国司、郡置郡司、里置里长。但随着日本中央集权的瓦解，国郡体制后来变成郡乡体制，幕府时代则是各大名领国之下设置郡奉行和郡代。1871年日本废藩置县后，为进一步中央集权而于1873年制定「大区小