开始兴建，到1926年完工，採用了来自印第安那州的灰色石灰石。南翼建于1911年，北翼建于1913年。两翼都是由麦金米德与怀特事务所（McKim, Mead & White）负责兴建。1963年，在作家安德烈·马尔罗驱使下，成千上万的访客到博物馆一睹《蒙娜丽莎》。1971年，新建筑计划得到批准并且交给凯文·罗区－约翰·汀克罗事务所负责，工程为期超过20年。计划目标是为了市民更容易接近展品，研究人员更方便使用设施，让整个博物馆更有趣更有教育意义。在很多的新计划中，也包括了于1975完工的「罗伯特雷曼翼