Bangunan museum ini dahulu pernah digunakan sebagai insitusi riset arkeologi bagi Sekolah Prancis untuk Timur Jauh saat masa pemerintahan kolonial Prancis (Louis Finot "École française d'Extrême-Orient" EFEO) yang dibuka pada tahun 1910. Bangunan ini diperbaharui pada tahun 1920, dan didesain ulang pada antara tahun 1926 dan 1932 oleh arsitek Ernest Hébrard. Bangunan museum ini dianggap sebagai perpaduan antara arsitektur kolonial Prancis dan tradisional Vietnam, disebut pula sebagai arsitektur Indocina. useum ini diakuisisi oleh Pemerintah Vietnam pada tahun 1958 dan kemudian koleksi artefak di museum ini diperluas untuk mencakup seni timur dan sejarah nasional. Museum ini menampilkan artefak dari masa prasejarah Vietnam (sekitar 300.000–400.000 tahun yang lalu) hingga Revolusi Agustus 1945.