Als er dann 2003 bei den Schwimmweltmeisterschaften in Barcelona jeweils die Goldmedaille über 100 und 200 m Brust gewann, wuchs er in seiner japanischen Heimat zu einem Superstar heran. Ausgestattet mit millionenschweren Werbeverträgen startete er 2004 mit großer Erwartungshaltung seiner japanischen Fans bei den Olympischen Spielen in Athen und wurde einer der Superstars der Spiele mit zwei Olympiasiegen über 100 und 200 m Brust. Hinzu kam die Bronzemedaille über 4×100 m Lagen, wo er in seiner Brustdisziplin Garant für den Medaillengewinn war. Bei den Schwimmweltmeisterschaften 2005 in Montréal gewann er über 100 m Brust die Silbermedaille hinter dem US-Amerikaner Brendan Hansen. Bei den Olympischen Spielen 2008 in Peking wurde Kitajima erneut Olympiasieger über 100 m und 200 m Brust und gewann mit der japanischen Staffel die Bronzemedaille über 4×100 m Lagen. Vier Jahre später bei den Olympischen Sommerspielen in London konnte Kitajima keine Einzelmedaille gewinnen (5. Platz über 100 m Brust, 4. Platz über 200 m Brust). Mit der Lagenstaffel gewann er jedoch Silber hinter den Vereinigten Staaten.