Po Mundialu przyjął ofertę szefów japońskiego związku piłki nożnej. Jego zadaniem miało być przygotowanie reprezentacji Japonii do mistrzostw świata 2002, których "Kraj Wiśni" był współgospodarzem. Duża autonomia w podejmowaniu decyzji, spokój i doświadczenie szkoleniowca zaprocentowały już w 2000 roku, kiedy drużyna olimpijska, której również był opiekunem, zajęła piąte miejsce na igrzyskach olimpijskich. Rok później dorosła reprezentacja doszła do finału Pucharu Konfederacji, a tuż przed turniejem triumfowała w mistrzostwach Azji. Na Mundialu Japończycy zajęli pierwsze miejsce w grupie (wyprzedzili Belgię, Rosję i Tunezję), a w drugiej rundzie przegrali 0:1 z Turcją, która następnie zdobyła brązowy medal. Po tym meczu Troussier podał się do dymisji.