Tout au long du les collections ostéologiques du Muséum subissaient le même sort que les autres collections : elles s'entassaient de plus en plus péniblement dans la galerie d'Anatomie comparée créée par Cuvier au début du siècle. Ainsi, après l'inauguration de la galerie de Zoologie en 1889, et à l'approche du premier centenaire du Muséum (1793-1893) et de l'exposition universelle de Paris de 1900, un cercle de professeurs de l'institution commença à demander qu'une nouvelle galerie soit construite pour conserver et exposer au public les collections d'anatomie comparée, de paléontologie et d'anthropologie. Trois professeurs du Muséum furent à l'origine du projet, les trois titulaires des trois chaires dont le bâtiment allait devoir exposer les trois collections respectives : le professeur Georges Pouchet pour l'anatomie comparée, le professeur Albert Gaudry pour la paléontologie et le professeur Armand de Quatrefages pour l'anthropologie. Après que les trois professeurs eussent fait cette demande en 1891, De Quatrefages décéda en et Pouchet en 1894. Mais peu avant son limogeage en , Edmond Frémy, alors encore au poste de directeur du Muséum, avait déjà donné son approbation au projet. C'est l'année suivante, en 1892, sous la direction d'Alphonse Milne-Edwards, que l'assemblée des professeurs désigna l'architecte Ferdinand Dutert pour dessiner un nouveau bâtiment pour ces futures nouvelles galeries. Pour les éléments décoratifs du bâtiment, Dutert fédèra autour de lui plusieurs artistes de l'art nouveau. La première pierre est posée un an après, en 1893. Lorsque le bâtiment est terminé l'inauguration a lieu le mais l'architecte, Ferdinand Dutert, n'assiste pas à l'inauguration, déçu que son projet initial (galerie de de long avec une double nef) ait été revu à la baisse.