Tokijski nacionalni muzej bio je prvi muzej koji je otvoren u zemlji. Inauguracija je održana 1872. godine u Taisendenu, a tada se zvao Carski muzej. Ubrzo nakon otvaranja za javnost muzej se preselio u "Učijamašita-čo" (danas "Učisaivai-čo"), a 1882. godine se vratio na svoje trenutno mesto, u park Ueno. Tokom 20. veka muzej je pretrpeo neka oštećenja, poput velikog Kanto zemljotresa 1923. i Drugog svetskog rata, tokom kojeg je bio zatvoren.