El museo fue creado por el militar e hijo de banqueros Édouard André (1833-1894) y por su esposa Nélie Jacquemart (1841-1912) con la finalidad de exhibir la colección privada de arte que habían reunido a lo largo de sus vidas.