Museet ble grunnlagt i 1906 av Wilhelm von Bode, generaldirektøren for de kongelige museer i Berlin. Det holdt opprinnelig til på Museumsinsel. I 1924 flyttet det til Kunstgewerbe-Museums bygning, som også huset Museum für Vor- und Frühgeschichte. En forening kalt ble grunnlagt i 1926 og støttet aktivt museet, som utviklet seg til et av verdens ledende innen sitt felt. Det ble i 2021 flyttet til Humboldt Forum.