Museet ble grunnlagt i 1800 i Haag for å vise de nederlandske statholdernes samlinger. Det ble grunnlagt med inspirasjon i Frankrike og kjent som Nasjonalt kunstgalleri. I 1808 flyttet museet til Amsterdam etter ordre fra kong Louis Bonaparte, bror til Napoleon Bonaparte. Samlingen ble utvidet etter flyttingen med malerier som var i byen Amsterdams eie, som av Rembrandt.