第1次伊藤内閣
地方自治制度の改革は内務大臣に就任した山縣有朋が手掛け、明治の大合併と呼ばれる地方の合併政策を推し進めた。明治時代の地方は戸長と呼ばれる民選で選ばれた人物が地方の行政を担い、中央政府から地方への政策実施は戸長を通して行ってはいたが、基本は地方放任で戸長に任せていた。中央集権を試み地方三新法などが制定されたが、実情に合わず改変・廃止されることがあった。
山縣はこうした地方のあり方を認めつつ政府との繋がりを強化する方針を定め、1888年(明治21年)4月25日に市町村制を公布(翌1889年に施行)、それに伴い町村合併も推進し、1888年(明治21年)から1889年(明治22年)にかけて約7万から1万5000余りと町村の数が激減した。これは地方に求めた負担増を解決するため財政が脆弱な区画を統合しようとしたからだが、合併後も旧町村との区別がつけられたままなど不完全な合併に多くの問題が残された。ただ、それでも地方と政府のバランスを取った他の政策は評価され、中央から行政または予算の執行命令を通して中央からのコントロールを受ける案も受け入れられ、町村会選挙も国政選挙に比べて条件が低かった。
山縣は国民の政治姿勢を向上させる狙いで地方制度を作り上げ、町村会など地方政治を通して行政の理解を深め、経験を積んで中央に進出する人材登用を考える一方、国民が政治を理解しないうちから無闇に普通選挙を導入して混乱をもたらすこと、地方議会が民権派の根拠地として過激な思想に走ることを恐れ、地方自治の確立で漸進的な国民の政治に対する成熟を実現しようとした。こうした目的は思うように実現しなかったが、山縣が第1次山縣内閣の1890年(明治23年)に公布した府県制・郡制で地方自治は更に拡大していった。