重返国会.2001年山口改为参加参议院选举，终于在东京都选举区中获胜，其后于第21届参议院议员选举成功连任。2008年8月出任公明党政务调查会长。
出任党首.2009年8月，公明党在众议院选举遭受“政权交代”的逆风影响，所有代表公明党出选小选举区的侯选人全部落败，包括时任公明党代表太田昭宏，而自公联盟也因此而下野，随即太田宣布承担选举失败的责任而辞任公明党代表。9月8日，公明党召开临时全国代表者会议，山口那津男临危受命接任党代表（党首）一职。后于2010