本社会党委员长村山富市，山口不满党为了重返政权不惜与社会党苟合，造反投票支持旧联合政权推荐的海部俊树。2003年担任第1次小泉再改造内阁的总务副大臣，在第2次小泉内阁山口留任此职。2005年邮政国会，山口投票反对邮政民营化。随后举行的第44届日本众议院议员总选举，他没有获得自民党的提名，只好以无党派身份参选。结果山口顺利击败了自民党提名的七条明和民主党提名的高井美穗成功连任。连任后，山口一改反对的态度，投票支持邮政民营化法案。2006年底，向自民党提出复党申请书，自民党党纪委员会接受其申请认可其