1996年，第41届日本众议院议员总选，山口壮被公荐新进党在兵库县第12区的竞选，被河本敏夫的儿子自民党的河本三郎击败落选。2000年，新进党解散，在第42届众议院议员选举，再次在兵库12个区的以无所属身份参选，成功选上。2011年7月，山口壮接替平野达男出任内阁副大臣。9月，山口壮出任野田佳彦内阁外务省副大臣。2013年退出民主党，虽然未有加入自民党，但成为了自民党派阀志帅会（二阶派）的成员。