POLYSICS
3人体制移行後のライブでは、演奏面やセットリストの面でカヨを含めた4人体制時から変化が生まれた。例えば、カヨが担当していたシンセサイザーやボーカルをハヤシ・フミが担当したり、ライブ時の楽曲アレンジもそれに合わせた形になっていた。また「ピーチパイオンザビーチ」や「New Wave Jacket」などカヨ脱退前には、ライブにおける定番曲であった一部楽曲もライブで演奏される回数が減ってきた。
加えて、4人体制時と比較するとハヤシ以外の2人が前面に出るシーンも多く見られるようになってきた。それまではカヨと同じくライブ中は無機質なロボットキャラを演じることが多かったヤノも、ライブで積極的なMCや前面に出たソロ場面が増えきていた。これは楽曲制作のスタンスでの変化にもあらわれ、制作初期から3人で臨むことが増加した。ハヤシはこの頃について「3人体制になった最初の時に、1人1人のパーソナルな部分をもっと出していきたいって言ったし。俺がリーダーで、フミ、ヤノといるんだけど、3人の顔がぎゅっと前にでるようなサウンドにしたいし、バンドにしたいんだよね」と2012年頃に振り返っている。
しかし、この年の12月に「武道館ワンマン公演をもって、カヨがバンドを『卒業』すること」が発表された。カヨによると、2006年頃から「POLYSICSのメンバーでない、一人の女性としての自分に会ってみたい」という気持ちが日に日に募っていったという。また同時にPOLYSICSも武道館公演後は「充電期間」としてしばらくの間活動を休止することが発表された。
12月のこれらの発表後、年明け2010年1月には自身2枚目となるベスト・アルバム『BESTOISU!!!!』をリリース。このアルバムの収録曲は、ヤノ加入後の音源からセレクトされており、本アルバムリリース時の4名のメンバーで発表する最後の作品となった。
2010年の3月日本武道館にてワンマンライブ『BUDOKAN OR DIE!!!!』を開催。この日演奏された楽曲は全部で42曲に及び、武道館ライブを行ったバンドの中では最多の曲数となった。このライブをもってカヨが卒業、バンドは活動休止に入った。ライブの模様は7月7日にDVD『BUDOKAN OR DIE!!!! 2010.3.14』として発売された。
2005年4月27日 『Ki/oon Records Overseas Compilation』 Black Out Fall Out(“POLYSICS OR DIE!!!!” version)
2005年4月 『SXSW THE BEST NEW BANDS SHOWCASE 2005』 (UK) LUNO (POLYSICS HARAJUKU MIX)(BLOCK PARTY)、NMEの付録CD
2006年1月18日 KAISER CHIEFS 『Lap Of Honour〜栄光のウイニング・ラン』 Na Na Na Na Naa (POLYSICS Remix)
2006年7月25日 PUFFY AmiYumi 『Splurge 』 (US) Teen Titans Theme POLYSICS' CR-06 MIX
2007年4月11日 VOLA & THE ORIENTAL MACHINE『ANDROID 〜like a house mannequin〜』 夢診断(カルテ.......無し.......mix.)(ハヤシヒロユキREMIX)
2007年7月18日 HALCALI『サイボーグ俺達』 サイボーグ俺達(ハヤシヒロユキプロデュース)
2007年10月17日 童謡カヴァー集『Rock For Baby』 コンピューターおばあちゃん (POLYSICS) メンバーのヤノは制作にほとんど関わっておらず、ヤノはその当時ディレクターとファミコンゲーム『マルサの女』をプレイしていたという。