# La certification des entrepôts de données

Françoise Genova, Aude Chambodut, Olivier Rouchon, Gilles Ohanessian

► To cite this version:

Françoise Genova, Aude Chambodut, Olivier Rouchon, Gilles Ohanessian. La certification des entrepôts de données. Printemps de la Donnée 2024, INRAE; Université Haute-Alsace; Université de Strasbourg; INSA; PNDB; AgroParisTech; Université de Lille; Sorbonne Université; Data Terra, Mar 2024, Strasbourg, France. hal-04680311

HAL Id: hal-04680311

https://hal.inrae.fr/hal-04680311v1

Submitted on 28 Aug 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>
# La certification des entrepôts de données

Françoise Genova, CDS/Observatoire Astronomique de Strasbourg, RDA
France, GT Certification

Aude Chambodut, EOST, CNRS INSU, Board CTS

Olivier Rouchon, CNRS, FAIR-IMPACT, Board CTS

Gilles Ohanessian, GT Certification

<figure><img src="image_2.png" /></figure>

<figure><img src="image_3.png" /></figure>
# La certification des entrepôts de données

* Pourquoi?

* Les cadres de certification 'de base'

* Exemple d'auto-évaluation

* Les critères du CoreTrustSeal et leur évolution

* Conclusions

<figure><img src="image_4.png" /></figure>

<figure><img src="image_5.png" /></figure>
# La certification, pourquoi?

<figure><img src="image_6.png" /></figure>

<figure><img src="image_7.png" /></figure>
# Confiance (Trustworthiness)

* La confiance est au cœur de la Science Ouverte

* Les entrepôts sont une source majeure de données

* Il leur faut avoir la confiance

* de leurs utilisateurs

* Les personnes qui produisent et déposent les données

* Les utilisateurs des données

* de leurs autorités et de leurs financeurs

<figure><img src="image_8.png" /></figure>

<figure><img src="image_9.png" /></figure>
RDA

FRANCE

# Qu'est-ce qu'un entrepôt de confiance?

* Mission de fournir un accès fiable, long-terme à des ressources numériques contrôlées pour sa communauté cible, maintenant et dans le futur

* Supervision, planification et maintenance constantes

* Compréhension des menaces et risques dans les sytèmes

* Cycle d'audit et/ou de certification régulier

<figure><img src="image_10.png" /></figure>

Credits: Ingrid Dillo & Hervé L'Hours

<figure><img src="image_11.png" /></figure>

<figure><img src="image_12.png" /></figure>

<figure><img src="image_13.png" /></figure>
# Qu'est-ce qu'un entrepôt de confiance?

* Mission de fournir un accès fiable, long-terme à des ressources numériques contrôlées pour sa communauté cible, maintenant et dans le futur

* Supervision, planification et maintenance constantes

* Compréhension des menaces et risques dans les sytèmes

* Cycle d'audit et/ou de certification régulier

<figure><img src="image_14.png" /></figure>

<figure><img src="image_15.png" /></figure>

Credits: Ingrid Dillo & Hervé L'Hours

<figure><img src="image_16.png" /></figure>

<figure><img src="image_17.png" /></figure>
# Pourquoi une certification formelle?

* Assurer que le centre est « de confiance »

* Mais... il a peut-être déjà la confiance de ses utilisateurs...

* L'exemple du CDS

* Crée en 1972

* Centre de données de référence pour la communauté astronomique internationale

* Infrastructure de Recherche sur la Feuille de Route nationale

* 2 000 000+ requêtes/jour sur les services

<figure><img src="image_18.png" /></figure>

<figure><img src="image_19.png" /></figure>
# Pourquoi une certification formelle?

* Critères établis par des personnes compétentes et applicables quel que soit le cadre disciplinaire

* Au préalable, auto-évaluation selon les critères, qui permet de vérifier l'organisation et les process et d'identifier des améliorations possibles

* Evaluation externe par des personnes compétentes

* Le dépôt dans un centre de données certifié est un point important dans les Plans de Gestion des Données (PGD)

<figure><img src="image_20.png" /></figure>

<figure><img src="image_21.png" /></figure>
# La stratégie Nationale

## Plan National pour la Science Ouverte

2018

<figure><img src="image_22.png" /></figure>

2021 ➔ Poursuivre le processus de **certification** (Core trust seal) des entrepôts de données français.

<figure><img src="image_23.png" /></figure>

<figure><img src="image_24.png" /></figure>
# La stratégie au CNRS

cnrs

<figure><img src="image_25.png" /></figure>

FEUILLE DE ROUTE
DU CNRS POUR LA
SCIENCE OUVERTE

18 novembre 2019

**Action 3: soutenir et accompagner les infrastructures de recherche, productrices de données, dans la définition et la mise en œuvre de politiques de données.**

Le CNRS est largement engagé avec ses partenaires dans les Infrastructures de Recherche (IR) nationales et internationales, qui représentent les lieux où se créent et s'analysent les données de la recherche : instruments analytiques, infrastructures de calcul, infrastructures de données, observatoires, etc. Pour généraliser l'application des principes FAIR à toutes les disciplines, le CNRS publiera une charte des infrastructures, engagant celles-ci à respecter les pratiques FAIR et des standards de qualité, en affichant des politiques de données concertées avec les communautés scientifiques utilisatrices des infrastructures concernées. Certaines infrastructures (telles que Progedo et Humanum à l'institut des SHS (INSHS)) sont déjà bien engagées dans ce processus, d'autres sont en cours d'accompagnement telles que les IR du Géométrie, ce synoptique SOLEIL a également aux en route une politique de gestion des données. Ces exemples sont multiples et devraient tendre à être généraliser. Ces développements doivent être corrélés avec les certifications (de type CoreTrustSeal) dans le cas où les infrastructures prennent elles-mêmes en charge la distribution de leurs données.

**Action 4: soutenir et accompagner des Infrastructures de données - Mettre en œuvre un service coordonné avec les instituts pour favoriser le dépôt des données pour tous les personnels des unités du CNRS**

Les infrastructures de données thématiques jouent un rôle national ou international. Certaines sont inscrites sur la feuille de route nationale des infrastructures de recherche. Cela s'inscrit dans la mesure de structuration du Plan national pour la Science ouverte qui préconise de « développer des centres de données thématiques et disciplinaires ». Le CNRS continuera à soutenir ces infrastructures, et soutiendra le développement de nouveaux réservoirs et services de données thématiques. Ce soutien sera conditionné à une évaluation de leur impact, de leur adéquation aux besoins scientifiques, et de la qualité de leur gestion. Une certification CoreTrustSeal sera recherchée.

<figure><img src="image_26.png" /></figure>

<figure><img src="image_27.png" /></figure>
# La stratégie au CNRS

<figure><img src="image_28.png" /></figure>

<figure><img src="image_29.png" /></figure>

p.8

* Le CNRS constituera à l'intention des chercheurs et des chercheuses un annuaire des entrepôts et des services de données existants, avec en particulier l'objectif d'aller vers la certification des entrepôts et services de données.

Un entrepôt doit avoir un rôle de curation et de préservation des données, et les principes FAIR sont un objectif dans le contexte Science Ouverte. La certification de base CoreTrustSeal explicite les critères pour un entrepôt « de confiance », ce qui permet de travailler à améliorer les pratiques en se basant sur les critères, sans nécessairement aller jusqu'à soumettre un dossier de certification.

p. 11

**Certification des dispositifs de prise en charge des données de la recherche (notamment le CoreTrustSeal⁵).** La certification des entrepôts et services de données, citée comme un objectif dans le Plan National pour la Science Ouverte, permet d'assurer qu'un centre de données est « de confiance », en examinant la manière dont il met en œuvre l'ensemble de la chaîne liée aux données, de leur ingestion à leur dissémination et à leur préservation. Elle peut aussi s'entendre dans le cadre de réseaux de centres de données, par exemple ceux des Pôles de données thématiques de l'IR Data Terra⁶, ou ceux de l'infrastructure européenne CLARIN⁷. Le CNRS pourra s'appuyer sur les activités de soutien à la certification mises en place par le Nœud National RDA France⁸.

<figure><img src="image_30.png" /></figure>

<figure><img src="image_31.png" /></figure>
# Entrepôts français actuellement certifiés CTS

* IDOC/IDOC-DATA, Orsay

* IFREMER SISMER, Plouzané

* ORTOLANG, Nancy

* ESRF, Grenoble

* CDSP, Paris

* IPSL, Paris

* CDS, Strasbourg
# Les cadres de certification 'de base'

## Un peu d'histoire...

<figure><img src="image_32.png" /></figure>

<figure><img src="image_33.png" /></figure>
# Le paysage de la certification en 2015

<figure><img src="image_34.png" /></figure>

4 certifications standards disponibles

<figure><img src="image_35.png" /></figure>

<figure><img src="image_36.png" /></figure>

<figure><img src="image_37.png" /><figcaption>DIN 31644</figcaption></figure>

<figure><img src="image_38.png" /><figcaption>ISO 16363</figcaption></figure>

<figure><img src="image_39.png" /></figure>

<figure><img src="image_40.png" /></figure>
# Le World Data System (WDS)

<figure><img src="image_41.png" /></figure>

* Créé en 2008 par l'ICSU (=ISC)

* Essentiellement au départ données sur la planète (et astronomie) mais ouvert à tous

* Promoting universal and equitable access to, and long-term stewardship of, quality-assured scientific data and data services, products, and information covering a broad range of disciplines from the natural and social sciences, and humanities.

* Coordinates trusted scientific data services for the provision, use, and preservation of relevant datasets

* CDS membre du WDS depuis 2012

<figure><img src="image_42.png" /></figure>

<figure><img src="image_43.png" /></figure>
# Le Data Seal of Approval (DSA)

* Plutôt Humanités

* Plus dépôts de données que services

* Le CINES a été le premier centre français certifié DSA, le CDS a été le second en France et le premier centre certifié du domaine des sciences physiques (en 2014)

<figure><img src="image_44.png" /></figure>
<figure><img src="image_45.png" /></figure>

<figure><img src="image_46.png" /></figure>

<figure><img src="image_47.png" /></figure>
<figure><img src="image_48.png" /></figure>

<figure><img src="image_49.png" /></figure>
DSA + WDS = CoreTrustSeal (CTS), 2017

<figure><img src="image_50.png" /></figure>

<figure><img src="image_51.png" /></figure>

<figure><img src="image_52.png" /></figure>

<figure><img src="image_53.png" /></figure>
<figure><img src="image_54.png" /></figure>

<figure><img src="image_55.png" /></figure>

<figure><img src="image_56.png" /></figure>

<figure><img src="image_57.png" /></figure>

Certification formelle ISO 16363:2012

(2 Centres ont été certifiés, 100+ critères)

https://www.iso.org/standard/56510.html/

Certification étendue DIN 31644

(5 Centres certifiés, 34 critères)

www.langzeitarchivierung.de

Certification CoreTrustSeal

(160+ centres, 16 critères)

www.CoreTrustSeal.org

Centres de données de confiance - Trustworthy Data Repositories

Credits: Mustapha Mokrane

<figure><img src="image_58.png" /></figure>

<figure><img src="image_59.png" /></figure>
# Exemple d'auto-évaluation

Le Centre de Données astronomiques de Strasbourg (CDS)

<figure><img src="image_60.png" /></figure>

<figure><img src="image_61.png" /></figure>
# L'auto-évaluation

* Questionnaire à remplir

* Il faut les compétences

* De la direction (mission, organisation, ...)

* Des personnes en charge du contenu

* Des personnes en charge de l'informatique

* Pour le CDS: un travail d'équipe qui a impliqué la direction, les documentalistes, l'informaticien en charge du service et l'ingénieur système

<figure><img src="image_62.png" /></figure>

<figure><img src="image_63.png" /></figure>

<figure><img src="image_64.png" /></figure>
# Les conséquences pour le CDS

* Description de bout en bout des process et des rôles

* Pas de modification majeure

* Des améliorations suite aux auto-évaluations pour DSA en 2014

* Clarification des licences

* Checksums des fichiers

* Le document soumis à CTS en 2018 a été accepté sans modification majeure

* Soumis en 2022 pour renouvellement en ajoutant l'entrepôt d'un second service

* Réaction très positive de nos autorités

<figure><img src="image_65.png" /></figure>

<figure><img src="image_66.png" /></figure>
Description des process du CDS

CCSDS

The Consultative Committee for Space Data Systems

Recommendation for Space Data System Practices

REFERENCE MODEL FOR AN
OPEN ARCHIVAL
INFORMATION SYSTEM (OAIS)

RECOMMENDED PRACTICE

CCSDS 650.0-M-2

MAGENTA BOOK
June 2012

<figure><img src="image_67.png" /></figure>

Basé sur le modèle OAIS – Open Archive
Information System

https://public.ccsds.org/Pubs/650x0m2.pdf
(Version 2, 2012)

Draft Octobre 2020

<figure><img src="image_68.png" /></figure>

Site en français

https://www.cines.fr/archivage/un-concept-
des-problematiques/le-modele-de-reference-
loais/

<figure><img src="image_69.png" /></figure>

<figure><img src="image_70.png" /></figure>
# L'environnement d'une archive OAIS

<figure><img src="image_71.png" /></figure>

<figure><img src="image_72.png" /></figure>

<figure><img src="image_73.png" /></figure>
# Les entités fonctionnelles de l'OAIS

<figure><img src="image_74.png" /></figure>

<figure><img src="image_75.png" /></figure>

<figure><img src="image_76.png" /></figure>
# Le pipeline de données pour Aladin/CDS

<figure><img src="image_77.png" /></figure>

ALADIN

<figure><img src="image_78.png" /></figure>

<figure><img src="image_79.png" /></figure>

<figure><img src="image_80.png" /></figure>
# Le pipeline de données pour VizieR/CDS

<figure><img src="image_81.png" /></figure>

<figure><img src="image_82.png" /></figure>
# La procédure de certification

<figure><img src="image_83.png" /></figure>

<figure><img src="image_84.png" /></figure>
# La procédure d'évaluation (1)

* Soumission d'un formulaire en ligne

* Examen par deux évaluateurs

* Examen des évaluations par le Board

* Renvoi des évaluations des évaluateurs et des commentaires du Board aux candidats

* Acceptation du dossier

<figure><img src="image_85.png" /></figure>
La procédure d'évaluation (2)

* Les éléments du dossiers sont publics (sauf exception légitime)

* Les évaluateurs sont membres de la communauté CoreTrustSeal
  « Assemblée des évaluateurs »

* Pour devenir membre du WDS

* Il faut obtenir la certification CTS...

* et remplir quelques conditions supplémentaires

* Renouvellement de la certification tous les 3 ans

<figure><img src="image_86.png" /></figure>

<figure><img src="image_87.png" /></figure>
# Les critères du CoreTrustSeal

<figure><img src="image_88.png" /></figure>

<figure><img src="image_89.png" /></figure>
# La certification CTS

* Toute l'information est sur le site de CoreTrustSeal
  * https://www.coretrustseal.org/

* Contexte + 16 critères
  * https://www.coretrustseal.org/why-certification/requirements/

* Document pour guider les évaluateurs et les candidats
  * Extended Guidance 2020-2022 > 2023-2025
    * https://doi.org/10.5281/zenodo.7051096

* Glossaire
    * https://doi.org/10.5281/zenodo.7051125

* Changements V2.0 > V3.0
    * https://doi.org/10.5281/zenodo.7051237

* Les entrepôts qui ont soumis un dossier selon les anciens critères restent dans ce cadre

* « Administrative fee » 3000€

<figure><img src="image_90.png" /></figure>

<figure><img src="image_91.png" /></figure>
<figure><img src="image_92.png" /></figure>

<figure><img src="image_93.png" /></figure>

<figure><img src="image_94.png" /></figure>
# Les critères de certification CTS

<figure><img src="image_95.png" /></figure>

CoreTrustSeal Trustworthy Digital Repositories
Requirements 2023-2025
Extended Guidance
V01.00

<figure><img src="image_96.png" /></figure>

* RO - Le contexte

<figure><img src="image_97.png" /></figure>

* 16 critères, 3 thèmes:

* Infrastructure organisationnelle

* Gestion des objets numériques (données et métadonnées)

* Technologie de l'information et sécurité

<figure><img src="image_98.png" /></figure>

<figure><img src="image_99.png" /></figure>
# Le contexte

* Identifiant Re3data

* Type d'entrepôt

* Brève description de l'entrepôt

* Brève description de la communauté concernée

* Niveau de curation

* Contenu en accès tel que déposé

* Curation de base (p. ex. vérification rapide, ajout de métadonnées de base ou de documentation)

* Curation avancée (p. ex. conversion vers de nouveaux formats, amélioration de la qualité de la documentation)

* Curation au niveau des données

* Partenaires

* Résumé des modifications depuis la candidature précédente (s'il y a lieu)

* Autres informations pertinentes

<figure><img src="image_100.png" /></figure>

<figure><img src="image_101.png" /></figure>
Infrastructure organisationnelle

* R1 – Mission/périmètre

* R2 – Gestion des droits

* R3 – Continuité de service

* R4 – Légalité/éthique

* R5 – Gouvernance et ressources

* R6 – Conseils d'experts

<figure><img src="image_102.png" /></figure>
# Gestion des objets numériques

* R7 – Provenance et authenticité des données

* R8 – Appréciation et sélection des données

* R9 – Assurance qualité

* R10 – Plan de préservation

* R11 – Processus de traitement (Workflows)

* R12 – Découverte et identification des données

* R13 – Réutilisation des données

<figure><img src="image_103.png" /></figure>
Technologie

* R14 – Stockage et intégrité

* R15 – Infrastructure technique

* R16 – Sécurité

<figure><img src="image_104.png" /></figure>
# Les changements

<figure><img src="image_105.png" /></figure>

* Pas de révolution!

<figure><img src="image_106.png" /></figure>

* Modifications

* Du texte

* Des critères

* Deux niveaux de conformité

* In Progress

* Implemented

Credits: Mari Kleemola & Hervé L'Hours

<figure><img src="image_107.png" /></figure>

<figure><img src="image_108.png" /></figure>

<figure><img src="image_109.png" /></figure>
# Les nouveaux critères 2023-2025

<figure><img src="image_110.png" /></figure>

<figure><img src="image_111.png" /></figure>

<figure><img src="image_112.png" /></figure>
# Parmi les changements (1)

* Une évolution du contenu du critère R0

* R2 Licences >> **R02 Gestion des Droits**

The repository maintains all applicable licenses covering data access and use and monitors compliance

>> **The repository maintains all applicable rights and monitors compliance.**

* R3 Continuité d'accès >> **R03 Continuité de service**

The repository has a continuity plan to ensure ongoing access to and preservation of its holdings.

>> **The Repository has a plan to ensure ongoing access to and preservation of its data and metadata.**

<figure><img src="image_113.png" /></figure>

<figure><img src="image_114.png" /></figure>
Parmi les changements (2)

<figure><img src="image_115.png" /></figure>

R4 Confidentialité/Ethique > R04 Aspects Légaux et Ethiques

The repository ensures, to the extent possible, that data are created, curated, accessed, and used in compliance with disciplinary and ethical norms.

> The repository ensures to the extent possible that data and metadata are created, curated, preserved, accessed and used in compliance with legal and ethical norms.

<figure><img src="image_116.png" /></figure>

R10 Qualité des données > R10 Assurance Qualité

The repository has appropriate expertise to address technical data and metadata quality and ensures that sufficient information is available for end users to make quality related evaluations.

> The repository addresses technical quality and standards compliance, and ensures that sufficient information is available for end users to make quality-related evaluations.

<figure><img src="image_117.png" /></figure>

<figure><img src="image_118.png" /></figure>
# Parmi les changements (3)

<figure><img src="image_119.png" /></figure>

## R11 Workflows > R11 Workflows

Archiving takes place according to defined workflows from ingest to dissemination.

>> Digital object management takes place according to defined workflows from deposit to access.

<figure><img src="image_120.png" /></figure>

## R9 Procédures de stockages documentées +dans R7 Intégrité> R14 Stockage & Intégrité

The repository applies documented processes and procedures in managing archival storage of the data.

>> The repository applies documented processes to ensure data and metadata storage and integrity.

<figure><img src="image_121.png" /></figure>

<figure><img src="image_122.png" /></figure>
Conclusions

<figure><img src="image_123.png" /></figure>

<figure><img src="image_124.png" /></figure>
# Pourquoi la certification?

* Quelques semaines de travail d'équipe dans la plupart des cas (tout compris)

* Beaucoup plus pour d'autres mais ça continue à valoir le coup!

* Evaluation – amélioration des process

* Auto-évaluation

* Evaluation externe

* Importance croissante pour les financeurs des centres de données et des projets (PGD)

* Priorité au niveau politique en France, intérêt des organismes (CNRS, Universités)

<figure><img src="image_125.png" /></figure>

<figure><img src="image_126.png" /></figure>
# L'impact de la RDA

* Fusion des deux cadres de certification 'de base'

* Clarification du paysage pour les centres de données et les agences de financement

* Deux cadres complémentaires au départ: le résultat est meilleur que chacun des originaux!

* Création de CoreTrustSeal

* Nombreux nouveaux candidats à la certification

<figure><img src="image_127.png" /></figure>

<figure><img src="image_128.png" /></figure>

<figure><img src="image_129.png" /></figure>
# Le rôle de RDA France

* La certification est une priorité

* Groupe de Travail commun avec le collège Données du Comité pour la Science Ouverte depuis juillet 2021

* Prise en charge des frais administratifs de certification

* Outil de visualisation et de partage des dossiers de certification
    https://crusoe.ouvrirlascience.fr/

* Ateliers, présentations à la demande, etc.

* Plus de 300 personnes ont suivi les ateliers

* Démarrage de la mise en réseau des entrepôts certifiés et « sur le chemin de la certification »

* Première réunion le 13 octobre 2023, pendant les Journées RDA France 2023

* Liste de diffusion

https://listes.services.cnrs.fr/wws/subscribe/rda-france-certification

<figure><img src="image_130.png" /></figure>

<figure><img src="image_131.png" /></figure>
<figure><img src="image_132.png" /></figure>

<figure><img src="image_133.png" /></figure>

RDA Global

Email - enquiries@rd-alliance.org

Web - www.rd-alliance.org

Twitter - @resdatall

LinkedIn - www.linkedin.com/in/ResearchDataAlliance

Slideshare - http://www.slideshare.net/ResearchDataAlliance

RDA FRANCE

https://rd-alliance.org/groups/rda-france

Email - contact-rdafrance@services.cnrs.fr