Japannese rugby dateer terug na 1866, toe dit in die verdragshawens gespeel is. Die eerste plaaslike universiteitspanne is in 1899 gestig en Japan se eerste bekende internasionale wedstryd is in 1932 teen ’n Kanadese span gespeel. Beroemde Japannese wedstryde sluit in ’n oorwinning oor die Opkomende All Blacks in 1968 en ’n net-net 3–6-nederlaag teen Engeland in 1971. Beroemde Japannese oorwinnings sluit in ’n 28–24 oor Skotland XV in 1989 en ’n 23–8 oor Wallis in 2013. Tydens die Rugbywêreldbeker 2007 het Japan met 12–12-gelykop gespeel teen Kanada. In 2011 het Japan verbeter deur die Stille Oseaan Nasiesbeker 2011 teen Fidji, Samoa en Tonga te wen. Verdere vooruitgang is getoon toe Japan in 2014 tien agtereenvolgende toetsoorwinnings behaal het (’n rekord vir ’n Vlak 2-span) en vir die eerste keer onder die wêreld se tien beste spanne was. Dit het in 2015 voortgeduur toe hulle hul eerste van drie groot verrassings behaal en die Springbokke tydens die Rugbywêreldbeker 2015 se poelfase met 34–32 oorrompel het. In onlangse jare het Japan teen opponente van gehalte te staan gekom, en het relatief goed gevaar met goeie uitslae soos ’n gelykopuitslag teen Frankryk en ’n skraps verloor teen Wallis in Cardiff. Hul tweede groot verrassing was ’n 19–12-oorwinning oor die destydse nommer 2-span Ierland tydens die Rugbywêreldbeker 2019 se poelfase. Vervolgens het hulle ná ’n 28–21-oorwinning oor Skotland tot hul eerste kwarteindstryd gevorder, maar is deur die uiteindelike kampioen Suid-Afrika met 26–3 geklop.
Die grondslag vir ’n Japannese nasionale rugbyspan en Japan se eerste internasionale wedstryd is op 31 Januarie 1932 gelê toe ’n handelsending van Kanada die Kanadese nasionale rugbyspan tydens hul oorsese toer na die eilandstaat ondersteun het. Die Japannese het hierdie eerste toetswedstryd in Osaka met 9–8 gewen. In ’n tweede toets in Tokio elf dae later het die Japannese span die Kanadese met 38–5 geklop.
Op 28 Mei 1989 het ’n sterk Japannese span, afgerig deur die gedugte taktikus Hiroaki Shukuzawa, ’n verswakte Skotland, wat sonder nege Britse Leeus wat op toer na Australië was moes speel, vir die eerste keer op die Chichibunomiya Rugbystadion met 28–24 verslaan. Die Japannese span het Kobe Staal-staatmakers soos die senter Seiji Hirao (kaptein), en slot Atsushi Oyagi en Toshiyuki Hayashi (wat 38 keer vir Japan gespeel het en ’n lid van Oxford-universiteit se beste XV van alle tye was) ingesluit. Sinali Latu, die agsteman was toe ’n vierdejaarstudent aan die Daito Bunka-universiteit en die vinnige Yoshihito Yoshida wat vleuel gespeel het (nommer 14), was ’n derdejaarstudent by die Meiji-universiteit. Skotland het ’n ongelooflike aantal strafskoppe mis geskop en geweier om die skophouer wat aangebied is te gebruik – soos ’n video-opname van dié wedstryd wys. Dit was so te sê dieselfde span wat Japan se oorwinning in die Rugbywêreldbeker oor Zimbabwe in 1991 behaal het.
Met die Rugbywêreldbeker in 1995 het ’n onverskrokke Nieu-Seelandse All Blackspan Japan met ’n Wêreldbekerrekordtelling van 145–17 in Bloemfontein verslaan. Die uitslag het die ontwikkeling van rugby in Japan vir verskeie jare erg geknou. Tydens die Rugbywêreldbeker 1999 is Japan ná geen oorwinnings ook in die groepfase uitgeskakel.
Japan het in Julie dieselfde jaar teen Italië met 19–32 verloor – die uitslag kon egter maklik anders gewees het as Daisuke Ohata nie die bal laat val het en so ’n seker drie verlore laat gaan het nie. Op Saterdag, 13 November 2004, het ’n verrassend swak Japannese toerspan met 8–100 verloor teen ’n volsterkte Skotland op McDiarmid Park in Perth in die Kaledoniese Skotse rugbystreek, ’n rekordtelling vir Skotland. ’n Week later, op 20 November, het die span met 10–25 teen Roemenië op die Steaua-sokkerstadion in Boekarest verloor; en op 26 November het Japan ’n vernederende 0–98-nederlaag teen Wallis by die Millennium-stadion gely. Dit was Wallis se grootste oorwinning tot dusver op ’n Vrydagaand in Cardiff voor ’n reuse skare van 56 380. Japan se optredes is as “pateties” beskryf en die span is “’n grap” genoem, met sommige sleutelspelers wat geïgnoreer of nie toestemming gegee is om saam te toer nie.
Nadat Hagimoto einde Junie 2005 uit sy pos bedank het, is Jean-Pierre Élissalde, wat net drie maande vroeër as afrigter van die agterlyn benoem is, as hoofafrigter van Japan benoem en het sodoende die eerste buitelander geword om dié pos te beklee. Die eerste wedstryd onder sy afrigting was ’n 44–29-oorwinning oor Spanje in November 2005.
Japan het die Arabiese Golf (41ste op die Wêreldranglys) op 16 April 2006 met 82–9 geklop. Die kaptein was Daisuke Ohata. ’n Week later het Japan Korea met 50–14 geklop, weer op die Chichibunomiya Rugbystadion. Japan het Georgië op 14 Mei 2006 met 32–7 geklop. In die wedstryd het Daisuke Ohata ’n driekuns behaal om die wêreldrekord vir die meeste toetsdrieë in te palm. Hy het in dié wedstryd die 65 merk behaal, een meer as die vorige rekordhouer David Campese.
Japan het met 16–57 teen Tonga verloor in die openingswedstryd in die IRR Stille Oseaan Vyfnasies op 4 Junie 2006 – ondanks ’n goeie eerste helfte wat 15–13 in die guns van Japan geëindig het.
Ten spyte van die span se teleurstellende vertoning in die toernooi waarin Japan slegs die “houtlepel” gewen het, en ná ’n bykomende swaar nederlaag teen Italië met 52–6, is Jean-Pierre Elissalde op 14 Julie 2006 as hoofafrigter bevestig en opdrag gegee om Japan vir die komende Rugbywêreldbeker 2007 voor te berei. Hy is in September 2006 afgedank toe hy ’n pos by ’n Franse klub, Aviron Bayonnais, aanvaar het sonder om dit met die JRFU te bespreek. Die adjunkafrigter Osamu Ota het daarna as hoofafrigter vir twee wedstryde tydens die Rugbywêreldbeker 2007-kwalifisering oorgeneem. Op 26 Oktober 2006 het die Japannese Rugbyvoetbalunie se algemene bestuurder, Osamu Ota, aangekondig dat John Kirwan vanaf 1 Januarie 2007 as hoofafrigter sal oorneem.
John Kirwan saam met die Japannese rugbyspeler Takashi Kikutani tydens ’n perskonferensie gedurende die Rugbywêreldbeker 2011 in Nieu-Seeland
John Kirwan is op 25 Oktober 2006 deur die JRFU as Japan se hoofafrigter van 1 Januarie 2007 af aangestel. Voordat hy die pos aanvaar het, het hy reeds as raadgewer vir die span opgetree. Hy het verklaar dat hy van plan is om van die begin af ’n Japannese vorm van rugby te kweek wat die “Samoeraigees” sou reflekteer en het hom ten doel gestel om ten minste twee wedstryde in die Rugbywêreldbeker 2007 te wen. In die kwalifiserende wedstryde het Japan in November 2006 Hongkong met 52–3 en Korea met 54–0 geklop om die span se plek in Poel B gemaklik te verseker.
Op 9 April 2007 het die span by hulle eerste oefenkamp sedert Kirwan se aanstelling op die NHK nasionale nuus verskyn, ’n teken van die groeiende verwagtings en belangstelling in die span. Hy het voor die kamera verklaar: “Ons wil die wêreld se fiksste span wees,” ’n tipiese uitspraak van vertroue deur die afrigter. Hy het bygevoeg dat hy wou hê dat Japan op sy sterk punte moes bou wat hy gesê het spoed en ratsheid is, en dat die span rugby moes speel “waarvan groot manne nie hou nie.” Die eerste wedstryd onder Kirwan op 22 April 2007 teen Korea het die Kersiebloeisels maklik met 82–0 gewen, en sewe nuwe spelers het debuteer. James Arlidge het twee van hul veertien drieë gedruk en tien uit tien verdoel.
Tydens die Rugbywêreldbeker 2007 het Japan gelykop teen Kanada gespeel nadat Shotaro Onishi in die laaste minuut van dié wedstryd ’n verdoeling aangeteken en sodoende ’n reeks van agtereenvolgende nederlae gedurende rugbywêreldtoernooie sedert 1991 beëindig het. In die groepwedstryde teen Wallis en Australië is Japan egter met duidelike tellings verslaan. In die groepwedstryd teen Fidji is Japan net naelskraap verslaan, waarvolgens Japan se deelname tydens dié toernooi as ’n sukses beskou is en Kirwan sy konsep verder kon ontwikkel. Japan se uitslae het ná die Rugbywêreldbeker 2007 begin verbeter en Kirwan het die span na ’n 13de plek op die IRR se ranglys geneem. In 2008 het Japan die eerste Asiatiese Vyfnaies ná oorwinnings oor Korea, Kasakstan, Hongkong en ’n saamgestelde Arabiese span gewen. Hulle het hul eerste IRR Stille Oseaan Vyfnasies-titel in 2011 ingepalm deur Fidji vir die eerste keer in Fidji te verslaan.
Die ampstermyn van Kirwan as afrigter was opvallend vir ’n groot aantal ontwikkelingsspelers wat hy benoem het. Spelers uit Nieu-Seeland soos James Arlidge, Bryce Robins, Shaun Webb, Ryan Nicholas, Luke Thompson of van Tonga soos Alisi Tupuailei en Sione Vatuvei het onder Kirwan vir Japan gespeel. Die groot aantal buitelandse spelers in die nasionale span het ook tot kritiek teen Kirwan gelei. Alhoewel Japan onder Kirwan tydens ’n rugbywêreldbekertoernooi nie ’n oorwinning aangeteken het nie, het Kirwan sy amp as die suksesvolste Japannese afrigter van die professionele tydperk met ’n wenrekord 58,18% in 55 wedstryde verlaat.
Jones het sy debut as Japannese afrigter teen Kasakstan gemaak. Hy het tien debutante vir sy 22-manspan benoem, en hulle het daarin geslag om dié wedstryd met 87–0 te wen. Hulle het toe nog ’n hoër oorwinning oor die Verenigde Arabiese Emirate aanteken, waartydens die jong 18-jarige Yoshikazu Fujita ’n nuwe Asiatiese Vyfnasies-rekord vir die meeste drieë in ’n enkele wedstryd met ses opgestel het. Dit was ook Fujita se internasionale debuut.
Op Donderdag, 4 Julie 2019, het die Japannese Rugbyvoetbalunie die span se trui vir die Rugbywêreldbeker 2019 bekendgemaak, die hemp vertoon ’n samoeraihelmmotief wat die tradisie van Japan se vegtergees voorstel. Die kombinasie van Samoerai en Sakura (kersiebloom) is lankal in die Japannese kultuur bekend.
Die Olimpiese Stadion in Tokio, kern van die Japannese bod, was nie betyds klaar vir die Rugbywêreldbeker 2019 nie
Die kernpunt van die Japannese bod was die Olimpiese Stadion in Tokio, wat met die oog op die Olimpiese Somerspele 2020 deur Zaha Hadid ontwerp is. Met ’n beplande kapasiteit van 80 000 sou dit die grootste stadion wees; dit was ook as plek vir die eindstryd en ander belangrike wedstryde beplan. Weens ’n massiewe koste-oorskryding het eerste minister Shinzō Abe op 17 Julie 2015 aangekondig dat dié projek geskrap en ’n nuwe aansoek ingedien sal word. As gevolg van hierdie vertraging was die nuwe Olimpiese Stadion nie vir die Rugbywêreldbeker 2019 beskikbaar nie. Op 28 September 2015 het Wêreldrugby ’n ooreenkoms met die reëlingskomitee oor ’n nuwe stadionkonsep bekend gemaak. Die belangrikste stadion was nou die Internasionale Stadion Jokohama, terwyl die Ajinomoto-stadion, in ’n voorstad van Tokio, Chōfu, ingespan is.