こうした保険金の不当不払いが相次ぐ中、2007年4月1日から当時社長の松澤建が代表権の無い会長職へと退くことが2007年1月12日に発表された。 松澤は大量不払い問題による引責辞任であることを否定したが、事実上は引責辞任と見られている。なお、この発表以降に金融庁から何らかの行政処分が下された場合は、松澤は会長職も辞任する意向を示していたため、同年3月14日の行政処分を受けて会長職には就かない可能性が一時は濃厚となったが、結局は会長職に就任した。後任には当時副社長職を勤めていた兵頭誠が昇格し社長となった。
内務大臣としての活動は地方自治の形成に尽力し、市制・町村制・府県制・郡制を制定した。内相就任前から地方制度に関する意見を政府に提出していた山県は、市町村制の公布に際し、明治20年（1887年）1月から開かれた地方制度編纂委員会で委員長を務め、ドイツのお雇い外国人アルベルト・モッセ、同郷の青木周蔵・野村靖らを委員として、ドイツの制度を参考にした自治制を日本に合うように修正・定着する方針に決めた。地方が財政難の中各地方長官が急激な制度改革に反対、元老院と大蔵省も反対したが、山県は制度実現に向けて明治21年2月までに立案・審議を終わらせ、4月25日にまず市制町村制が公布、明治22年4月1日以降に各地で順次施行、明治23年（1890年）5月17日に府県郡制も公布された（施行はさまざまな要因で明治32年（1899年）3月16日まで遅れた）。また、地方財政の対応策として明治の大合併を推進し、明治21年末から明治22年末までに約7万から約1万5,000と町村の数が激減するほどの合併を実行したが、こちらは地方に妥協し実情に合わせて配慮したため、旧町村と新町村の財政が一本化されない、新町村に吸収されたはずの旧町村の区域が名前を変えて残り、実際の町村は分離されたままという中途半端な結果に終わっている。山県が地方自治に熱心に取り組んだ理由は、日本国民に政治の仕組みを地方政治を通して理解させること、および急進派や過激思想（特に自由民権運動）を政治から遠ざけ、穏健派を政治に迎え入れる意図があった。府県と郡の政治機関は官選の知事（郡長）と補佐する執行機関の府県参事会（郡参事会）、地方議会にあたる府県会（郡会）で構成され、市町村も同じ構造で市長・市参事会・市会が政治機関で、町村もそれぞれ町長（村長）・助役・町会（村会）を置き、等級選挙と複選制（間接選挙）を導入して富裕層の政治参加を図った。山県の狙いは普通選挙を導入して混乱を招くより、等級選挙で地方の有力者の政治参加を望み、地方議会政治を通して彼らを行政事務に慣れさせ、政治家として成長した地方議員達がやがて中央へ進出、将来帝国議会で堅実に政治を行うことを考えていた。この山県の意図はあまりうまくいかず、府県会選挙をめぐり市町村会員選挙が混乱、明治32年に帝国議会との妥協で府県郡制施行の際に府県郡会の複選制と大地主参加を廃止、府県会は直接国税3円以上の納税者による直接選挙に変更され、府県も官選の知事に対して府県会の権力が弱いなど（代わりに府県参事会はある程度知事に制限をかけられた）、地方自治の発達につながらず当初の目的から後退した例が多かった。それでも府県会と知事が相互牽制して両者の関係を成り立たせ、郡には町村が難題を抱えたときに代議決権を持たせるなど、工夫を凝らして自治育成の方針を残そうと努力した。また、自治を促しつつ国から地方へのコントロールも行える仕組みにも取り組み、国から地方への行政執行命令と国税徴収を通しての規制強化で、中央と地方の関係を構築させようと試みた。ただし、のちに山県は方針を変え、府県郡制施行で知事と郡長の権限を拡大、山県系官僚が郡を通して町村を統制したため、軍と並んで地方も山県の派閥の根拠地となっていった。明治21年12月2日よりヨーロッパ各地へ視察旅行に出る。外国の地方自治制度と軍事を調査すること、および国会と地方議会の関係がどうなっているかを知ることが目的だった。フランスでは軍人政治家ジョルジュ・ブーランジェが大衆の人気を背景に打倒政府の首領に担がれたクーデター未遂事件（ブーランジェ将軍事件）を見聞、翌明治22年2月11日の宮中での大日本帝国憲法発布式典には、フランス滞在中のため臨んでいない。伊藤も遊学しており、当時「シュタイン詣で」とさえ言われるほど日本政府の要人らがオーストリア・ウィーンの憲法学者ローレンツ・フォン・シュタインを訪れていたが、山県も訪問している。ほかにイタリア、ドイツ、イギリスにも出かけ、ドイツでグナイスト、クルメツキ、ビスマルク、ヴィルヘルム2世らのもとを訪問している。10月2日に帰国。旅行で山県が得た知識・体験は中央で急進的な民衆運動が政治を混乱させていること、対照的に地方議会は平穏な状態を見て国会開設を否定的に捉えるようになった。自治制に協力したモッセの師にあたるグナイストからは、町村は住民の自治を基盤とするドイツ制度でよいとしながら、それより上の府県レベルには導入すべきでなく、官選の知事の権限が強いフランスの制度を採り入れることを忠告され、帰国後に公布された府県郡制に反映された。また、シュタインやクルメツキからはそれぞれ外交方針と議会操縦を学び、のちに山県が第1回帝国議会で発表する「主権線」「利益線」の概念と議会支持者の形成などに活かされるようになる。これとは別に、琵琶湖疏水事業の後押しもしている。内務卿だったころの明治18年1月に京都府知事北垣国道に疏水起工特許を下し、5年後の明治23年4月に挙げられた竣工式に出席している。以後も山県と琵琶湖疏水との関わりは続き、のちに京都、それも琵琶湖疏水のほとりに別荘・無鄰菴を建てると、庭池に疏水の水を流してもらっているが、これは京都市が疏水事業を推進した山県への恩義からではないかとされている。