憲政党
しかしこれらの施策の内、文官任用令改正(1899年3月28日成立)については、政党員の高級官僚への任命(政治任用)の枠を狭めるものであったため憲政党とひと悶着あり、このころから憲政党は、"山縣以後"の連携先を模索し始める。ちょうどこの頃、伊藤博文筆頭元老が、政党内閣制の確立を標榜し、独自の新党結成に向けて各地の遊説を始めていた。憲政党は旧自由党時代に第2次伊藤内閣で与党になって以来伊藤との間に友誼関係にあったため、伊藤に憲政党への入党を進めるなど、意見交換を始めた。
1900年に入ると、山縣内閣と憲政党との間の仲違いの度が激しくなってくる。憲政党側は板垣ら党幹部の入閣、もしくは現閣僚の入党を求めたが、山縣は議会中であること、皇太子(大正天皇)の成婚式(同年5月10日)などを理由に確約を与えず、更には辞意を漏らすようになった。星は、山縣が辞意を漏らした5月31日、ただちに現内閣との提携断絶を宣言、そのまま伊藤筆頭元老のもとへ向かい、憲政党への入党を要請した。伊藤は、自身の本意は既成政党の宿弊の矯正であって、伊藤本人が主体となって新党を結成することである、と返答した。そのため、星は憲政党を解党、伊藤新党に丸ごと合流することによって、党勢を拡張することを決定する。
伊藤が山縣の了解を得たうえで、8月25日、新党の創立委員会が開かれる。9月13日、憲政党が解党。15日には伊藤を総裁とする立憲政友会が結成され、同時に旧自由党以来の盟主であった板垣は政界を引退した。これと前後して山縣も首相を辞任して、立憲政友会は第4次伊藤内閣を政権与党として支えることとなる。