经三国、东晋、南北朝等分裂割据局面，由于大量增分建制，州郡县三级行政区划体系发生重大转变。最后全国出现了200多个州、600多个郡、1000多个县，一州只有两三个郡、一郡只有两三个县，介于州县之间的郡的实际意义几乎不复存在。隋文帝在中国统一后，废除了天下各郡，实行州县二级制。不久后，隋炀帝又改州为郡，恢复到了秦汉的郡县二级制。唐朝建立后，再次改郡为州，但到了唐玄宗时又改州为郡，这也是郡最后一次作为正式行政区划出现。到了唐玄宗禅让，唐肃宗登基后，再次改郡为州，从此中国不再使用郡的划分。但宋朝的州则有一个郡