对自公两党联合执政，选举中平泽更不断痛批公明党及其母体创价学会，而山口也决意要雪耻4年前的败绩。但在激烈的选战过后，山口最终还是败于平泽胜荣，而这也成为自公联合后迄今为止唯一的一次选战对决。
重返国会.2001年山口改为参加参议院选举，终于在东京都选举区中获胜，其后于第21届参议院议员选举成功连任。2008年8月出任公明党政务调查会长。
出任党首.2009年8月，公明党在众议院选举遭受“政权交代”的逆风影响，所有代表公明党出选小选举区的侯选人全部落败，包括