雪耻4年前的败绩。但在激烈的选战过后，山口最终还是败于平泽胜荣，而这也成为自公联合后迄今为止唯一的一次选战对决。
重返国会.2001年山口改为参加参议院选举，终于在东京都选举区中获胜，其后于第21届参议院议员选举成功连任。2008年8月出任公明党政务调查会长。
出任党首.2009年8月，公明党在众议院选举遭受“政权交代”的逆风影响，所有代表公明党出选小选举区的侯选人全部落败，包括时任公明党代表太田昭宏，而自公联盟也因此而下野，随即太田宣布承担选举失败的责任