Logotypen, som kallas Harmonized Chequered Emblem, ersätter det första valet som kastades ut förra året efter att designern anklagades för plagiat.
Designern nekade till att stjäla idén.
Arrangörer sade att den nya designen använde traditionella japanska färger och mönster för att representera de interkulturella temana i spelen.
"Det innehåller budskapet om "enhet i mångfald", sade de, och tanken att spelen "söker att främja mångfald som en plattform för att ansluta världen".
När designern Asao Tokolo fick reda på att han hade vunnit den återöppnade tävlingen sa han "min hjärna har gått tom".
"Jag lägger ner mycket tid och kraft på den här designen som om det var mitt eget barn."
Den första designen avvisades efter att den belgiska konstnären Olivier Debie påstod att den kopierade hans design till en teaterlogotyp.
Spelens organisationskommitté gick aldrig med på anklagelsen om plagiat, men sade att det fanns alltför många tvivel om emblemet för att det skulle kunna användas.
Logotyptvisten kom kort efter att Tokyo beslutat att skrota ritningarna för den största olympiska arenan på grund av spiralformade byggkostnader.
En billigare design, av den japanske arkitekten Kengo Kuma, valdes ut i december förra året.
Japans olympiska organisatörer har presenterat de nya officiella logotyperna för de olympiska och paralympiska spelen i Tokyo 2020.