A partir de junho de 2002, passou a exercer o cargo de técnico da Seleção Japonesa, sucedendo ao francês Philippe Troussier, que treinara o país na Copa do Mundo daquele ano. Foi chamado logo como a primeira opção de Masaru Suzuki, presidente da Associação de Futebol do Japão - Suzuki fora o presidente do Kashima na época em que Zico teve bons resultados como técnico interino do clube. Após eliminação na primeira fase na Copa das Confederações FIFA de 2003, Zico levou os nipônicos ao título na Copa da Ásia de 2004. Com o título continental, o Japão credenciou-se a disputar no ano seguinte a Copa das Confederações e, embora eliminado na fase de grupos, não fez feio, tendo ficado perto de eliminar a Seleção Brasileira nesta fase.