在日本兵库县相生市，他曾先后在淳心学院高等学校、东京大学、约翰·霍普金斯大学读书。大学毕业后，他同伊原纯一、小林弘裕一同进入外务省。1989年，山口壮出任中华人民共和国日本大使馆一等书记官、1991年出任巴基斯坦日本大使馆一等书记官、1993年出任联合国日本大使馆一等书记官、1995年出任外务省综合外交政策局国际科学协力室长。1996年，第41届日本众议院议员总选，山口壮被公荐新进党在兵库县第12区的竞选，被河本敏夫的儿子自民党的河本三郎击败落选。2000年，新进党解散，在第42届众议院议员选举，再