アテナイなどの古代ギリシアの小国家群や古代ローマ、古代インド（インダス文明）、古代中国（黄河文明、中国語では「國」「邦」「邑」と呼ばれた）など、古代には世界各地で見られる。
初期の都市国家は、都市周辺の農地・牧地において食をまかなう自給体制であったが、隣接する都市国家どうしでの交易がはじまると、交易に専従し、都市生活者の食をまかなうのに十分な農地・牧地を持たない都市国家も成立した。
人間が都市国家を形成する時代になっても、都市国家に参加しない人々もいた。古代中国においては、そういう人々は野人と呼ばれた。
一般に都市国家群の国際関係においては、強大な都市国家が弱小な都市国家を従属させたり、相互に同盟を結んだりすることで、密接な結合を持つようになる傾向がある。こうして形成された都市国家の連合は、古代ギリシアにおいてアテナイが盟主となって加盟する都市国家を従属させたデロス同盟がよく知られている。殷、西周、春秋時代の王や覇者を中心とした秩序もこうしたものであった。アメリカ大陸のマヤ文明諸都市も、アステカによって統合された。
都市国家の連合によるネットワーク型の国際秩序は、時として様々な内的、外的要因により領域国家に転換する。都市国家連合が完成すると、都市外部であっても連合の内部においてはある程度の秩序が生まれ、治安が保たれ、都市国家とは無縁に生活する人々も都市国家連合の中に組み込まれていくこととなる。地中海世界におけるローマ帝国、イラン高原からメソポタミア、東地中海世界を統治したアケメネス朝、東アジアにおける戦国時代の諸王（戦国七雄）の統治下の諸国やそれらを統合した秦、漢帝国といったものがそれである。こうした転換の結果、都市国家は単なる地方単位（中国語では「県」という）になっていった。日本の大和朝廷の成立も、弥生時代の都市国家の連合が、領域国家へ転換したと見ることができる。
中世における都市国家.