Das Museum wurde von dem Unternehmer Ōkura Kihachirō (1837–1928) als erstes privates Kunstmuseum in Japan im August 1917 auf seinem Grundstück eröffnet. Beim Großen Kantō-Erdbeben 1923 wurde der Bau zerstört, es gingen viele Kunstwerke verloren. Beim neuen Gebäude, entworfen von dem bekannten Architekten Itō Chūta, wurde dann Wert gelegt auf Erdbeben- und Feuersicherheit. Die Eröffnung fand im Oktober 1928 statt.