Au cours de son histoire, le musée a occupé successivement un espace de bureaux loué sur la Cinquième avenue en novembre 1929 quelques jours après le krach boursier ; en 1932 une maison de ville louée aux Rockefeller ; en 1937 des locaux temporaires au rez-de-chaussée du Rockefeller Center. En 1939 un bâtiment conçu par les architectes modernistes Philip L. Goodwin et Edward Durell Stone dans le style international est construit au 11 West 53e rue, son emplacement actuel. Ce bâtiment a connu des agrandissements signés par l'architecte Philip Johnson (membre du conseil d'administration) en 1951 et 1964. La reconfiguration du Abby Aldrich Rockefeller Sculpture Garden a également été signée par Philip Johnson en 1953