A primeira medalha conquistada pelo Japão nos Jogos Olímpicos foi em 1952, nas Olimpíadas de Helsinque: a prata de Tadao Uesako no solo. Quatro anos mais tarde, foram dez conquistas a mais que na edição anterior, com destaque para a vitória de Ono, na barra fixa, a frente do soviético Yuri Titov, e para a primeira medalha coletiva, de prata. Ao longo das edições, até Pequim 2008, foram 91 pódios alcançados, embora jamais tenham conquistado uma vitória no cavalo com alças. Em campeonatos mundiais, o primeiro pódio coletivo foi em 1954, na edição romana da competição, mesmo ano da primeira medalha de ouro mundial, de Massao Takemoto no solo. Ao todo, até a vitória do individual geral de Kohei Uchimura no Mundial de Londres, em 2009, foram 110 conquistas. Em Jogos Asiáticos, até a edição de Doha, em 2006, foram realizadas nove edições, nas quais os japoneses subiram ao pódio por 47 vezes, em doze delas como vitoriosos. Apesar dos resultados, nunca venceram uma prova coletiva.