El burdel, tan famoso como para ser mencionado en el 7º volumen de la enciclopedia "Nouveau Larousse illustré" de 1904, fue fundado por la supuestamente irlandesa Madame Kelly (nombre real - Alexandrine Joannet (o posiblemente Jouannet)), quién estaba estrechamente asociada con varios miembros del prestigioso Jockey Club de París. Vendió participaciones en el provechoso negocio a inversores anónimos ricos. El coste total del establecimiento fue informado que alcanzó la exorbitante suma de 1.7 millones de francos. El vestíbulo de entrada fue diseñado como una cueva de piedra desnuda; los dormitorios estaban lujosamente decorados, muchos en su estilo propio: Morisco, Hindú, japonés, Pompeya y Luis XVI. La habitación japonesa ganó un premio de diseño en la Exposición Universal de París de 1900. Madame Kelly murió en 1899.