Brevet FR3106693A1 — publié le 20210730

L’invention concerne un procédé (100) de génération de données structurées à partir de données non structurées ou structurées. Des données médicales (7) font l’objet de propositions de classification automatique, le procédé comprenant une phase d’évaluation (107), d’au moins un résultat d’une proposition, dans laquelle : des moyens automatisés déterminent un niveau de confiance associé au résultat, les moyens automatisés comparent le niveau de confiance associé au résultat à un seuil de confiance prédéterminé, et les moyens automatisés affichent à un utilisateur le résultat si le niveau de confiance associé au résultat est supérieur ou égal au seuil de confiance prédéterminé. Figure pour l’abrégé : Fig. 10 Procédé de génération de données structurées d’ordre médical L’invention concerne l’évaluation de propositions de classification automatique, notamment dans le domaine médical. En particulier, elle concerne l’évaluation de la classification automatique de séjours médicaux au sein de classes de diagnostics et d’actes médicaux. Les établissements de santé ont pour obligation de produire le codage PMSI (« programme de médicalisation des systèmes d’information »). Dans le cadre de ce codage, chaque séjour médical d’un patient fait l’objet d’une description et d’une documentation des diagnostics médicaux du patient et des actes ou procédures éventuellement pratiqués au cours du séjour : ainsi à chaque séjour est associé le ou les codes des classifications de diagnostics et d’actes ou procédures correspondantes. La génération de ces données a pour finalité la recherche épidémiologique, l’analyse de l’activité hospitalière et le financement hospitalier. En particulier, le mode principal de financement des établissements de santé est la tarification à l’activité. Cette tarification repose sur une logique de mesure de la nature et du volume des activités. A cet effet, chaque séjour médical d’un patient au sein d’un établissement de santé fait notamment l’objet d’un classement au sein d’un « groupe homogène de malades » (GHM) auquel est associé un « groupe homogène de séjours » (GHS). Ce classement conditionne le tarif de prise en charge du séjour hospitalier par les régimes d’assurance maladie. Cette activité de classement est de la responsabilité des départements d’information médicale des établissements de santé. Ils doivent réaliser une analyse approfondie du dossier clinique de chaque patient à l’issue de son séjour médical afin d’en extraire les informations pertinentes pour déterminer à quel code, c’est-à-dire dans quelle classe GHM/GHS, assigner ce séjour. Il s’agit d’une activité fastidieuse et complexe, qui présente un taux d’erreurs important susceptible d’impacter significativement les recettes hospitalières, la recherche épidémiologique ou tout autre type d’analyse de ces données. On connaît déjà dans l'état de la technique un procédé d’assistance au codage PMSI par classification automatique. Selon ce procédé faisant appel aux technologies d’apprentissage automatique, un modèle, dit modèle « auto-apprenant », est entraîné à classer chaque séjour médical automatiquement. Ainsi, pour chaque séjour, des données médicales correspondant à ce séjour, tel que le dossier clinique du patient, sont fournies en entrée au modèle entraîné, qui attribue en fonction de ces données et de son apprentissage des codes de diagnostics et des codes d’actes ou procédures, voire même directement un code GHM/GHS au séjour. Ce procédé permet de classer automatiquement les séjours dont la classification fait peu de doute. Il s’agit par exemple des séjours pour lesquels le diagnostic ressort très clairement du dossier clinique. Il s’agit également des séjours pour lesquels, au vu du grand nombre de séjours aux données médicales similaires sur lesquels le modèle est entraîné, l’assignation d’un code plutôt qu’un autre ne fait aucun doute pour le modèle. Cependant, ce procédé n’est pas capable de permettre le classement automatique de tous les séjours avec un niveau de confiance suffisant. En particulier, le classement de certains séjours est plus délicat en raison par exemple de la complexité du dossier médical ou de la particularité de certaines données médicales fournies en entrée. En d’autres termes, il s’agit des séjours pour lesquels un entraînement automatique préalable n’est pas suffisant pour assurer que le modèle effectuera un classement sans risque d’erreurs élevé. Pour ces séjours, le taux d’erreur d’une classification automatique est trop important pour laisser le modèle apprenant les classer automatiquement. Pour chacun de ces séjours au classement plus difficile, ce modèle du procédé de l’état de la technique peut fournir des propositions de classement à un utilisateur humain, mais ces propositions sont multiples et présentent généralement une précision trop faible pour un classement automatique de la plus probable d’entre elles. L’utilisateur doit donc prendre connaissance du dossier médical par lui-même pour choisir le codage adéquat de chacun de ces séjours. On en revient donc alors à des tâches fastidieuses et complexes. L'invention a notamment pour but de faciliter et accélérer le classement des données médicales qu’un modèle apprenant n’est pas capable de classer automatiquement sans risque d’erreur élevé. A cet effet, l’invention a pour objet un procédé de génération de données structurées à partir de données non structurées ou structurées, dans lequel des données médicales font l’objet de propositions de classification automatique, le procédé comprenant une phase d’évaluation, d’au moins un résultat d’une proposition, dans laquelle : des moyens automatisés déterminent un niveau de confiance associé au résultat, les moyens automatisés comparent le niveau de confiance associé au résultat à un seuil de confiance prédéterminé, et les moyens automatisés affichent à un utilisateur le résultat si le niveau de confiance associé au résultat est supérieur ou égal au seuil de confiance prédéterminé. Ainsi, le résultat de la proposition de classification n’est affiché à l’utilisateur que s’il correspond à un niveau acceptable de confiance, lui-même paramétré par l’utilisateur. Par « données non structurées », on fait référence à toute donnée non formatée, notamment à toute donnée de texte libre et de longueur variable, non prédéfinie. Par « données structurées », on fait référence à toute donnée de longueur fixée, ou correspondant à un formatage, par exemple à toute donnée d’ordre catégorielle. Il s’agit également par exemple des données numériques. Par « procédé de génération de données structurées à partir de données non structurées ou structurées », on entend donc générer de nouvelles données formatées, triées, ou catégorisées à partir des données d’entrée, qu’elles l’aient déjà été auparavant ou non. Par « résultat », on parle de la classe à laquelle un modèle apprenant propose d’assigner un ensemble formé de données médicales fournies en entrée. Par « niveau de confiance », on peut en particulier parler de « précision » au sens statistique du terme. Enfin, on parlera indifféremment dans la suite de la demande de « classification » ou de « labélisation », qui sont deux termes renvoyant dans ce contexte à la même définition : assigner en sortie une ou plusieurs classes à un ensemble de données médicales fournies en entrée. Sont particulièrement visées les propositions de classement dont le niveau de confiance n’est pas suffisamment élevé pour un classement automatique, mais suffisamment élevé pour que les résultats proposés soient étudiés et validés rapidement par l’utilisateur le cas échéant. L’utilisateur peut ainsi décider d’afficher, pour des ensembles de données en entrée, l’ensemble des résultats proposés pour chaque entrée correspondant à un niveau acceptable de confiance, et ne pas afficher les résultats qui ne vérifient pas cette confiance. De cette manière, il évite le classement automatique de résultats pour lesquels le risque d’erreur demeure élevé, et en même temps il peut se contenter pour ces résultats d’une vérification sommaire visant à déterminer si la classe proposée en sortie pour une entrée paraît être effectivement la bonne. Corollairement, en proposant cette étape intermédiaire, dite de « quasi-automatisation », ce procédé limite l’étude approfondie des données médicales à celles dont la prédiction n’est pas suffisamment précise pour se contenter d’une vérification sommaire du résultat proposé. Ainsi, le procédé accélère et facilite le classement des données médicales qu’il est trop risqué de classer automatiquement, en soumettant la validation des résultats pertinents à l’utilisateur. Ce dernier peut se concentrer sur ces données pour lesquelles le classement automatique serait risqué tout en bénéficiant d’une proposition de résultat probable. Il a donc un travail plus simple et rapide à effectuer, et commet donc moins d’erreurs de classement que s’il avait à analyser toutes les données non classées automatiquement en profondeur. Le niveau de confiance déterminé peut être associé directement au résultat, par exemple s’il est associé directement à la classe proposée en sortie pour les données médicales fournies en entrée. Mais il peut alternativement être associé indirectement au résultat, par exemple s’il n’est pas associé à la classe proposée, mais à une classe plus large englobant la classe proposée ainsi que d’autres classes. De préférence, les moyens automatisés affichent également à l’utilisateur au moins une donnée de justification du résultat détectée. Ainsi, non seulement l’utilisateur visualise uniquement les résultats qui paraissent les plus probables, mais il visualise également au moins une donnée de justification associée au résultat. Cette donnée est une indication qui permet à l’utilisateur, en un coup d’œil, de vérifier si le résultat proposé est le bon pour les données médicales correspondantes à ce résultat. Cette caractéristique accélère encore le classement des données médicales, car l’utilisateur n’a plus à se plonger dans ses données, par exemple dans un dossier médical, pour vérifier si le résultat proposé est le bon, il peut se contenter de prendre connaissance de la ou des données de justification pour décider si le résultat proposé est effectivement le bon ou non. Avantageusement, la donnée de justification appartient aux données médicales ayant fait l’objet de la proposition de classification correspondant au résultat, et est textuelle. Ainsi, les moyens automatisés retrouvent, parmi les données médicales faisant l’objet de la classification, un mot ou une phrase permettant à l’utilisateur de déterminer si le résultat correspondant lui paraît adéquat. C’est ce mot ou cette phrase qui est la donnée de justification. Il peut par exemple s’agir d’un terme médical relatif à un soin médical, à un diagnostic, ou à un symptôme médical. De préférence, en outre, les moyens automatisés déterminent également un niveau de justifiabilité associé au résultat, les moyens automatisés comparent le niveau de justifiabilité associé au résultat à un seuil de justifiabilité prédéterminé, les moyens automatisés affichent à l’utilisateur le résultat si, en outre, le niveau de justifiabilité est supérieur ou égal au seuil de justifiabilité prédéterminé. Ainsi, le niveau de confiance n’est pas le seul critère considéré pour afficher ou non un résultat à l’utilisateur, le niveau de justifiabilité s’y ajoute. Il correspond à une quantité ou à une qualité de données permettant de justifier à l’utilisateur le résultat proposé. En d’autres termes, pour être affiché, non seulement le résultat doit présenter un niveau de confiance supérieur au seuil de confiance prédéterminé, mais en outre, les moyens automatisés déterminent s’ils sont en capacité de présenter à l’utilisateur des données convaincantes associées à ce résultat, afin que l’utilisateur prenne sa décision de classement rapidement. Ainsi, selon ce mode de réalisation, même si un résultat proposé est probablement le bon, si les moyens ne sont pas en mesure de fournir des données permettant à l’utilisateur d’aisément valider ce résultat, ils ne l’affichent pas à l’utilisateur. De cette manière, l’utilisateur peut se concentrer sur les résultats proposés qui sont à la fois probables et justifiés. Les résultats affichés sont donc encore plus pertinents car leur justifiabilité facilite leur validation par l’utilisateur. De même que le seuil de confiance, le seuil de justifiabilité peut être paramétré par l’utilisateur comme bon lui semble. Avantageusement, pour déterminer le niveau de justifiabilité associé au résultat : parmi les données médicales, les moyens automatisés détectent au moins une ou l’une des données de justification du résultat, et en fonction de la ou de chaque donnée de justification détectée, les moyens déterminent le niveau de justifiabilité associé au résultat. Ainsi, le niveau de justifiabilité dépend du nombre et/ou de la pertinence des données de justifications détectées par les moyens automatisés au sein des données médicales fournies en entrées. Plus ces données de justification sont nombreuses et/ ou pertinentes, plus le niveau de justifiabilité est élevé car les moyens automatisés sont en mesure de présenter à l’utilisateur des données de justification qui vont grandement l’aider à valider le résultat. De préférence, pour détecter une donnée de justification du résultat, les moyens automatisés déterminent, au préalable, un ou des types de données de justification à détecter. Ainsi, le modèle auto-apprenant est entraîné à détecter des données de justification sur une base de données d’apprentissage. Avantageusement, pour déterminer un ou des types de données de justification à détecter, à partir d’une base de données médicales d’apprentissage : grâce à des données médicales d’apprentissage de la base, les moyens automatisés effectuent une première classification et déterminent un premier niveau de confiance associé à un résultat de la première classification, les moyens automatisés masquent au moins l’une des données médicales d’apprentissage utilisées pour effectuer la première classification, les moyens automatisés effectuent une deuxième classification en utilisant des données dépourvues de la donnée médicale d’apprentissage masquée et déterminent un deuxième niveau de confiance de la deuxième classification, si la différence entre le premier et le deuxième niveau de confiance est supérieure à un seuil prédéterminé, les moyens automatisés enregistrent un type de la donnée médicale d’apprentissage masquée en tant que type de donnée de justification à détecter. Ainsi, pour déterminer quelles sont les données de justification à détecter, on retire ou on masque certaines des données médicales lors de l’apprentissage et on mesure l’impact de ces retraits sur le niveau de confiance en sortie de classification. Si le niveau de confiance a considérablement baissé, cela signifie que la ou les données médicales qui ont été masquées sont particulièrement importantes dans la détermination de la classe correspondant au séjour auquel ces données appartiennent. Ces données masquées sont donc considérées comme des données de justification qui peuvent être affichées à l’utilisateur si elles sont détectées, pour accompagner et justifier le résultat proposé. Ce procédé est donc réalisé préalablement aux classifications des données médicales en « conditions réelles » afin de déterminer les types de données à détecter. Par ailleurs, étant donné qu’il peut être répété pour des données d’entraînement en entrée différentes mais correspondant à des résultats identiques, les moyens déterminent les types de données de justification les plus courants associés à chaque résultat possible, et ce peu importe les données fournies en entrée. Alternativement, pour détecter une donnée de justification du résultat, un ou des types de données de justification à détecter sont fournies aux moyens automatisés par l’utilisateur. Ainsi, en plus ou à la place de la détermination des données de justification par les moyens automatisés, un utilisateur humain peut fournir aux moyens une liste de données de justification à détecter, par exemple les mots qu’il juge pertinents. Là encore, les données sont fournies aux moyens avant la classification. Alternativement, les moyens automatisés détectent la ou les données de justification à partir de la ou des données médicales qui ont fait l’objet de la proposition de classification automatique ayant abouti au résultat. Ainsi, le ou les types de données de justification à détecter sont déterminés cette fois à posteriori, c’est-à-dire une fois la classification réalisée. Ce procédé permet de se passer de la détermination au préalable des types de données de justification pour tous les résultats possibles. De préférence, pour détecter la ou les données de justification à partir de la ou des données médicales qui ont fait l’objet de la proposition de classification automatique ayant abouti au résultat, la classification étant une première classification et le niveau de confiance associé au résultat étant un premier niveau de confiance : les moyens automatisés masquent au moins l’une des données médicales utilisées pour effectuer la première classification, les moyens automatisés effectuent une deuxième classification en utilisant les données dépourvues de la donnée médicale masquée et déterminent un deuxième niveau de confiance de la deuxième classification, si la différence entre le premier et le deuxième niveau de confiance est supérieure à un seuil prédéterminé, les moyens automatisés (4) enregistrent la donnée médicale masquée en tant que donnée de justification détectée. Ainsi, les moyens mettent en œuvre un procédé semblable à celui réalisé pour détecter a priori des types de données de détection et décrit plus haut, c’est-à-dire par le biais de classifications avec des données masquées, mais il est réalisé ici après la classification et uniquement pour le résultat proposé. De préférence, le résultat appartient à une arborescence de nœuds correspondant à des résultats possibles. Ainsi, la classe à assigner en sortie aux données en entrée peut faire partie d’une arborescence de classes agencées entre elles de manière hiérarchique. En d’autres termes, un nœud de l’arborescence, dit « parent », correspond à une classe englobant plusieurs sous-classes, elles-mêmes associées respectivement à des nœuds « fils » du nœud parent. Un résultat peut correspondre à n’importe quel nœud, c’est-à-dire à n’importe quel niveau hiérarchique dans l’arborescence des classes. Un tel niveau peut d’ailleurs être paramétré par l’utilisateur, qui peut décider de ne voir afficher les résultats que d’un certain niveau hiérarchique. En effet, de manière générale, plus le niveau hiérarchique est élevé, plus le risque d’erreur dans la classification diminue, mais moins la classe assignée est adaptée aux données en entrées puisqu’il s’agit d’une classe plus générique. Avantageusement, le niveau de confiance est associé à un nœud de l’arborescence parent d’un nœud correspondant au résultat. Ainsi, le résultat proposé correspond à une classe précise, mais le niveau de confiance est déterminé au niveau d’une classe parente, c’est-à-dire plus générique et comprenant la classe correspondant au résultat. De cette manière, l’utilisateur peut afficher des résultats précis, mais en se basant sur un niveau de confiance associé à un niveau hiérarchique plus générique que celui des résultats. Concrètement, des résultats qui ne seraient pas affichés si le niveau de confiance était associé directement au résultat, s’affichent ici car ils correspondent à des classes sœurs, ou proches du résultat. De cette manière, l’utilisateur élargit les critères d’affichage des résultats à des classes proches de la classe correcte, mais sans nécessairement modifier un seuil de confiance. Le procédé permet donc ici d’afficher à l’utilisateur des résultats au moins proches, en termes de classement, des bons résultats, même si la précision de ces résultats n’est pas suffisante pour qu’ils soient normalement affichés. Alternativement, le niveau de confiance est associé à un groupe de nœuds de l’arborescence comprenant un nœud correspondant au résultat. Ainsi, ce n’est pas la confiance associée au résultat proposé qui est déterminée ici, mais celle accordée à un groupe de résultats possibles. En d’autres termes, il s’agit de la confiance accordée au fait que l’un des membres du groupe est le bon résultat. Avantageusement, le niveau de justifiabilité est associé à un nœud de l’arborescence parent d’un nœud correspondant au résultat. Alternativement, le niveau de justifiabilité est associé à un groupe de nœuds de l’arborescence comprenant un nœud correspondant au résultat. Ces deux options correspondent à ce qui a été évoqué plus haut, mais appliqué cette fois au niveau de justifiabilité. De préférence, en fonction du niveau de confiance associé au résultat, les moyens automatisés modifient l’association du niveau de confiance et de préférence le seuil de confiance. Ainsi, les moyens automatisés adaptent automatiquement le niveau hiérarchique auquel le niveau de confiance est associé, voire le seuil de confiance à atteindre, en fonction du résultat. En d’autres termes, si pour un séjour, aucun résultat n’est d’abord affichable à l’utilisateur faute de seuil de confiance atteint, les moyens automatisés « remontent » à un nœud parent, frère, groupe de nœuds ou noeud proche du nœud correspondant au résultat, et déterminent s’ils y trouvent là un autre résultat atteignant le seuil de confiance éventuellement modifié. De cette manière, l’utilisateur n’a plus à adapter le réglage de son niveau de confiance à chaque évaluation des résultats, les moyens automatisés se chargeant de cette adaptation de manière à afficher un résultat pour chaque ensemble de données médicales fourni en entrée, quand bien même le niveau hiérarchique de ce résultat ou le niveau de confiance auquel il est associé ne correspondent pas aux niveaux et seuils visés en première approche. De même, avantageusement, en fonction du niveau de justifiabilité associé au résultat, les moyens automatisés modifient l’association du niveau de justifiabilité et de préférence le seuil de justifiabilité. De préférence, les moyens automatisés permettent à un utilisateur de prédéterminer le seuil de confiance et/ou le seuil de justifiabilité. L’utilisateur peut paramétrer ces seuils au moyen de courbes de précision-sensibilité. Plus il est exigeant sur les niveaux de précision de ces seuils, plus les résultats affichés seront pertinents, mais le risque qu’aucun résultat ne soit affiché pour un séjour donné sera aussi plus élevé. A l’inverse, plus un niveau de précision est faible, plus il risque de voir s’afficher un résultat erroné pour un séjour donné. Avantageusement, une classification ayant suivi la proposition, les moyens automatisés autorisent l’utilisateur à invalider le résultat. Ainsi, ici le procédé valide le résultat proposé par les moyens automatisés, mais laisse l’opportunité à l’utilisateur d’annuler cette validation. De cette manière, si la plupart des résultats sont corrects, l’utilisateur a seulement à agir sur les autres classements, minoritaires, c’est-à-dire ceux qui se sont avérés être inexacts. De préférence, les données médicales sont relatives à un ou plusieurs séjours médicaux de patients en établissement de santé. Ainsi, le procédé permet en particulier d’améliorer le classement informatique des séjours médicaux, en particulier en vue d’améliorer la précision de la comptabilité des établissements de santé, en vue des recherches épidémiologiques ou tout autre type d’analyse de ces séjours médicaux. Avantageusement, les données médicales étant relatives à plusieurs séjours médicaux, les moyens automatisés affichent à l’utilisateur les résultats des propositions de classification de tous les séjours. Ainsi, l’utilisateur peut très rapidement parcourir les résultats pour l’ensemble des séjours qu’il souhaitait classer. En d’autres termes, il n’a pas à naviguer entre plusieurs résultats et peut en quelques brèves interactions valider ou invalider une liste de résultats. De préférence, le résultat de la proposition correspond à un ou plusieurs codes relatifs à des diagnostics médicaux, des actes ou procédures, des groupes homogènes de malades ou des groupes homogènes de séjours (« Diagnosis Related Groups » ou « DRG » en langue anglaise). Ainsi, il peut en particulier s’agir des codes, CIM10, CCAM ou GHM/GHS relatifs au codage PMSI. Le procédé permet donc de faciliter et d’accélérer le codage PMSI dans les établissements de santé, en particulier pour les séjours médicaux dont les classements présentent un risque d’erreur trop élevé. Les départements d’information médicale de ces établissements peuvent ainsi décider du classement et donc du codage en se basant sur les résultats les plus probables fournis par le modèle auto-apprenant pour une liste de séjours, sans avoir besoin d’étudier de manière approfondie les données médicales correspondant à chaque séjour. Avantageusement, le niveau de confiance associé au résultat est une valeur numérique associée à une probabilité que le résultat soit correct. Ainsi, le niveau de confiance correspond au pourcentage de chance que le résultat proposé soit le bon. De préférence, pour déterminer la valeur numérique, au moyen d’une base de données médicales d’apprentissage : les moyens automatisés effectuent des classifications de données d’apprentissage ; pour chaque classification, les moyens automatisés déterminent des valeurs numériques primaires associées respectivement à des résultats de la classification ; pour chaque classification, les moyens automatisés sélectionnent le résultat de la classification pour lequel la valeur numérique est la plus élevée ; pour chaque classification, les moyens automatisés comparent le résultat sélectionné avec un résultat attendu correct ; et en fonction de résultats des comparaisons, les moyens automatisés déterminent la valeur numérique associée à une probabilité que le résultat sélectionné soit correct. Ainsi, le niveau de confiance calculé pour chaque séjour correspond à deux éléments : le résultat proposé, et la valeur numérique primaire qui lui a été associée lors de la classification. Le modèle est entraîné à déterminer un niveau de précision pour des combinaisons de ces deux éléments. Ensuite, à chaque fois qu’un résultat est proposé avec une certaine valeur numérique primaire, le modèle est capable d’en déduire statistiquement un degré de précision, c’est-à-dire le niveau de confiance associé à ce résultat et à cette valeur primaire. L’invention a également pour objet un système de traitement de données comprenant des moyens de mettre en œuvre les étapes du procédé décrit précédemment. L’invention a également pour objet un programme d’ordinateur, comprenant des instructions qui, lorsque le programme est exécuté par un ordinateur, conduisent celui-ci à mettre en œuvre les étapes du procédé décrit précédemment. L’invention a également pour objet un procédé de mise à disposition du programme précédent en vue de son téléchargement sur un réseau de télécommunications. L’invention a également pour objet un support de données lisible par ordinateur, sur lequel est enregistré le programme d'ordinateur présenté précédemment. Brève description des figures L'invention sera mieux comprise à la lecture de la description qui va suivre donnée uniquement à titre d'exemple et faite en se référant aux dessins annexés dans lesquels : illustre les moyens mis en œuvre dans l’invention ; illustre des résultats évalués par l’invention ; illustre un procédé conventionnel de configuration d’un modèle de classification automatique ; illustre un procédé de détermination d’un niveau de confiance ; illustre un procédé de détermination d’un niveau de justifiabilité ; illustre une première variante d’une étape du procédé de la figure 5; illustre une deuxième variante d’une étape du procédé de la figure 5; illustre un exemple de courbe précision-sensibilité ; illustre l’évolution d’une interface utilisateur ; illustre un premier mode de mise en œuvre de l’invention ; illustre un deuxième mode de mise en œuvre de l’invention ; Description détaillée Le contexte de l’invention est celui de l’obligation pour les établissements de santé d’identifier pour chaque séjour les diagnostics et actes caractéristiques du patient. A des fins notamment budgétaires, ces établissements doivent ainsi rendre compte de chaque séjour médical d’un patient, via l’assignation de codes dits « PMSI » audit séjour. Chaque code correspondant à un diagnostic médical principal et éventuellement à un ou plusieurs diagnostics associés ainsi qu’à un ou plusieurs actes médicaux, les organismes adéquats tels que la sécurité sociale peuvent rembourser les établissements hospitaliers sur la base de ces codes. Un procédé de classification automatique permet d’assigner à chaque séjour médical un ou plusieurs codes PMSI. Il prend en entrée un ensemble de données concernant un séjour médical, et fournit en sortie un code PMSI, qui dans le meilleur des cas correspond bien au séjour, mais parfois est erroné, ou insuffisamment précis. L’invention ne concerne pas la classification automatique à proprement parler, mais une évaluation des résultats d’une classification automatique, c’est-à-dire l’évaluation de l’assignation du bon code au bon séjour. C’est également pourquoi l’invention ne se limite pas à un procédé ou modèle de classification automatique particulier. Au contraire, elle permet d’évaluer les résultats de propositions de classification automatique réalisées par différents modèles. Nous allons dans un premier temps décrire l’ensemble des moyens mis en œuvre, ainsi que l’ensemble des étapes techniques nécessaires à la compréhension et à la mise en œuvre de l’invention. Puis nous récapitulerons ces éléments au moyen de la description de modes de mise en œuvre de l’invention. I. Les moyens A) L es éléments La figure 1 illustre les éléments participant à la mise en œuvre du procédé. Ce procédé est mis en œuvre au moyen d’un logiciel 1 manipulé par un utilisateur 2 au moyen d’un ordinateur. Ce logiciel propose une interface utilisateur 6, à partir de laquelle l’utilisateur 2 commande l’invention. Ce logiciel est l’interface entre l’utilisateur 2 et tous les autres éléments. Ce logiciel commande notamment un modèle auto-apprenant 3 apte à effectuer des classifications automatiques. Sous le contrôle du logiciel 1, le modèle 3 fournit à des moyens automatisés 4 des propositions de résultats de ces classifications, associés à des scores. Les moyens automatisés 4 sont tout type de moyen informatique, en particulier des moyens de calculs, et de moyens de communications. Ils mettent ainsi en œuvre des processeurs, des bases de données, des réseaux de communication. Ces moyens 4 peuvent être groupés ou séparés, ils peuvent fonctionner à distance. Dans la suite, on parlera de « moyens automatisés 4 » pour décrire l’un ou l’autre de ces moyens mettant en œuvre l’invention. Ils ont vocation à utiliser les résultats des classifications issues du modèle 3 pour en générer des évaluations et justifications à présenter à l’utilisateur 2. Les données 7 fournies en entrées au logiciel 1 sont une liste de séjours médicaux, les données déterminées en sortie par le logiciel via les moyens automatisés sont des codes 8, correspondant à des diagnostics médicaux assignés à au moins certains de ces séjours, et associés à des justifications. B) les données Les données 7 formant un séjour médical, ou séjour hospitalier, sont formées de tout document lié au patient ou à son séjour hospitalier. Il peut s’agir notamment des modes d’entrée et de sortie d’une unité médicales, de dates du séjour, de compte-rendu d’hospitalisation, de courriers médicaux, de comptes-rendus d’imageries ou d’examen. Il peut également s’agir du fichier dit « résumé de sortie standardisé » (RSS), qui contient toutes les informations des « résumés d’unités médicales » (RUM) du séjour. Chaque RUM comprend par exemple un numéro FINESS de l’établissement hospitalier, le numéro de RSS, un numéro administratif du séjour, et un numéro GHM (« Groupe homogène de malade). Il peut également contenir des codes de « classification communes des actes médicaux » (CCAM). D’autres données, telles que n’importe quelles données liées directement ou indirectement au séjour du patient, peuvent être utilisées. Ce sont ces données 7 qui sont fournies en entrées au modèle auto-apprenant 3. Plus concrètement, on les fournit sous forme de vecteurs. Ainsi, parmi ces données 7, les données administratives comportent des caractéristiques numériques et catégorielles qui sont transformées en vecteur. Les données textuelles sont extraites, concaténées, et vectorisées également, par exemple à l’aide de la libriaire Scikit-learn. Les deux vecteurs, celui des données administratives et celui des données textuelles, sont ensuite concaténés pour former un seul vecteur correspondant au séjour. Les données de sortie 8 sont des codes. Il s’agit du code CIM (« classification internationale des maladies ») du diagnostic principal du RUM, du code CIM du diagnostic relié du séjour s’il y en a un, et des codes CIM des diagnostics associés s’il y en a. Le code I48 correspond par exemple à « fibrillation et flutter auriculaires », le code I48.2 à « fibrillation auriculaire chronique ». Un code D61.1+Y43.3 correspond à une « Aplasie médullaire médicamenteuse » en diagnostic principal, et à un « effet indésirable des chimiothérapies au cours de l’usage thérapeutique » en diagnostic associé. C’est donc à ce type de code 8 auquel le modèle auto-apprenant 3 doit assigner chaque séjour 7 fourni en entrée. C) Des résultats en arborescence La classification PMSI peut être illustrée sous la forme d’une arborescence, comme illustré à la figure 2. En effet, certains codes correspondent à des diagnostics génériques, d’autres codes à des diagnostics plus précis, et d’autres codes encore à des diagnostics encore plus précis. Par exemple, le code I50 correspond à une insuffisance cardiaque, le code I500 à une insuffisance cardiaque congestive tandis que le code I501 correspond à une insuffisance ventriculaire gauche. Puis le code I5010 correspond à une insuffisance ventriculaire gauche avec fraction d’éjection ventriculaire gauche supérieure ou égale à 50, tandis que le code I5011 correspond à une insuffisance ventriculaire gauche avec fraction d’éjection ventriculaire gauche inférieure à 50 et supérieure ou égale à 40. On peut donc parler de hiérarchie entre nœuds parents correspondant à des diagnostics généraux et des nœuds enfants associés à des diagnostics plus précis. Les résultats des classifications peuvent correspondre à tout code, quel que soit son niveau hiérarchique dans cette arborescence. On préférera cependant que le code corresponde au niveau hiérarchique le plus bas possible, c’est-à-dire au diagnostic le plus précis possible. La tarification des activités médicales peut d’ailleurs évoluer à tous les niveaux. On va désormais décrire le fonctionnement d’un exemple de modèle auto-apprenant, le modèle 3, permettant de classer automatiquement des séjours médicaux 7 au sein de classes de diagnostics 8. On décrira ensuite le fonctionnement de l’invention à proprement parler, c’est-à-dire le procédé d’évaluation des résultats proposés par le modèle auto-apprenant. I I. La classification A) l’apprentissage Le modèle 3 est configuré au moyen d’u procédé 70 illustré sur la figure 3. L’un des types de modèle de classification adéquat est un perceptron multicouche, c’est le type choisit pour le modèle 3. Pour rappel, un modèle auto-apprenant vise à assigner à un ensemble de données entrées – en l’espèce, des données concernant un séjour médical 7 - une classe en sortie – en l’espèce, un code PMSI 8. Pour cela, le modèle 3 est entraîné, à l’étape 11, sur une base de données d’apprentissage où les codes des séjours fournis sont déjà connus. L’objectif de l’entrainement est la minimisation de l’entropie croisée. Cet objectif est réalisé via l’algorithme de descente de gradient. L’implémentation de ce modèle et son entrainement sont réalisés par exemple via Tensorflow. Après apprentissage, on cherche à optimiser le modèle 3 et à le calibrer. On utilise d’autres données, dites « données de validation », dont on connait là encore les classes en sortie, afin de préciser les « hyperparamètres » du modèle : son nombre de neurones, d’axones, et de manière générale toutes les caractéristiques définissant le modèle apprenant. Cette étape 12 vise notamment à éviter le sur-apprentissage du modèle 3. En outre, pour le calibrer, on utilise l’algorithme de Temperature Scaling décrit dans « On Calibration of Modern Neural Networks » (Guo et al, 2017). Cette calibration à l’étape 13 permet au modèle 3 d’associer à la classe en sortie 8 un score représentant un niveau de précision. Ce score peut par exemple être une valeur numérique entre 0 et 1. Ainsi, pour un séjour 7 donné, une première classe peut être prédite avec un score quelconque, une deuxième classe avec un score supérieur. Cela signifie, si le modèle est bien calibré, que la deuxième classe présente plus de chance que la première d’être la bonne. Enfin, à l’étape 14, on utilise encore d’autres données aux classes connues, pour tester la capacité de généralisation du modèle 3. A l’issue de ces étapes 11 à 14, le modèle est convenablement entraîné à prédire la classe en sortie 8 de séjours médicaux 7 fournis en entrée, c’est-à-dire qu’il est apte à leur assigner un ou plusieurs codes PMSI. Un code peut par exemple être « un diagnostic principal », auquel peut être associé un ou plusieurs codes de diagnostics associés, des codes correspondants aux actes CCAM, voire un code prédisant le groupe GHM du malade. B) Les propositions Ce qui suit est donc la classification automatique, conformément à l’étape 15. Dans la phase de classification, l’utilisateur 2 fournit des séjours médicaux 7 au modèle auto-apprenant 3. Le modèle fournit alors en sortie une liste de résultats 8 : au moins un code PMSI ainsi qu’un score numérique associé à ce résultat. Il peut arriver que le modèle fournisse plusieurs paires de codes-score pour un même séjour. Dans l’invention, ces résultats font ensuite l’objet d’une évaluation, c’est ce que nous décrirons en détails plus bas. II I . L’évaluation du niveau de confiance A) la détermination du niveau de confiance L’objet de l’invention est de proposer à l’utilisateur, dans un premier mode de réalisation, les résultats pour lesquels la confiance 9 associée est supérieure à un certain seuil. On va d’abord décrire comment calculer ce « niveau de confiance » 9, autrement appelé « précision », au moyen d’un procédé 20 illustré à la figure 4. Ce niveau 9 est déterminé par entraînement des moyens automatisés 4 sur une base de données de tests. Les étapes sont illustrées à la figure 4. Dans une étape 21, pour des séjours médicaux 7 dont les classes sont connues, le modèle 3 produit en sortie des paires de résultats-score. Les moyens automatisés 4 sélectionnent alors, à l’étape 22, pour chaque séjour, le résultat dont le score X est le plus élevé. Pour rappel, ce résultat est une classe, c’est-à-dire un code PMSI. Le résultat sélectionné est alors comparé au résultat attendu à l’étape 23. En effectuant ce type de classification/comparaison sur un échantillon suffisamment grand de données de test, les moyens automatisés déterminent à l’étape 24 une corrélation entre le score X et le résultat sélectionné d’un côté, et l’exactitude ou non du résultat sélectionné de l’autre. Pour donner un exemple, prenons cent classifications dont le résultat est la classe I48 avec le score 0.65 fourni par le modèle calibré. Si sur ces cent classifications, il se trouve que 90 séjours classés correspondent effectivement à la classe I48, alors les moyens automatisés en déduisent que la confiance associée à tout résultat concernant la classe I48 avec un score de 0.65 est de 90%. C’est donc de cette manière que les moyens automatisés 4 apprennent à déterminer les niveaux de confiance 9 associés aux résultats, en utilisant les scores d’ores-et-déjà déterminés par le modèle auto-apprenant 3 et fournis aux moyens automatisés 4. Ainsi, pour chaque résultat 8 fourni par le modèle 3 avec son score, les moyens automatisés 4 sont capables de déterminer un niveau de confiance 9 en pourcentage, autrement appelée « précision ». Cette précision 9 correspond statistiquement à la probabilité que le résultat 8 soit le bon, c’est-à-dire que le code PMSI proposé corresponde effectivement au séjour 7 fourni en entrée. B) Le seuil de confiance Via le logiciel 1, l’utilisateur 2 peut décider d’un seuil de confiance dit « d’automatisation », au-dessus duquel les résultats sont automatiquement classés par le logiciel 1, sans passer par la validation de l’utilisateur. Ce seuil peut par exemple être de 99%. Cela signifie que, pour les résultats dont la précision est au moins de 99%, les séjours sont automatiquement classés comment prédit par le modèle auto-apprenant 3. Il peut bien entendu régler ce seuil comme bon lui semble. Ce qui nous concerne le plus ici, c’est le seuil de « quasi-automatisation ». En effet, l’utilisateur 2 peut régler un seuil de confiance pour ne voir s’afficher sur son interface utilisateur 6 que les résultats dont la précision calculée est supérieure ou égale à ce seuil de confiance dit de « quasi-automatisation », mais qui est inférieure au seuil de confiance « d’automatisation ». Il s’agit donc des séjours 7 dont la classification est probablement bonne, puisque leurs résultats 8 ont un niveau de confiance supérieur ou égal au seuil de confiance de quasi-automatisation, mais loin d’être certaine, puisque ce niveau de confiance est inférieur au seuil de confiance correspondant à l’automatisation. L’utilisateur 2 a la possibilité de valider ces résultats proposés par le modèle 3, c’est-à-dire d’assigner aux séjours concernés le code de diagnostic proposé par le modèle. Ainsi, l’utilisateur 2 n’a qu’à vérifier si le code 8 proposé paraît correspondre au séjour médical fourni 7 en entrée et, il peut user d’un clic pour le valider ou au contraire pour infirmer cette proposition. I V . L’évaluation du niveau de justifiabilité Dans un deuxième mode de réalisation illustré à la figure 5, l’évaluation ne concerne pas seulement le niveau de confiance 9 d’un résultat proposé. Les moyens automatisés 4 déterminent également un niveau de justifiabilité 10 associé à chaque résultat proposé, et ne proposent à l’utilisateur 2 que les résultats des classifications du modèle 3 dont les niveaux de confiance 9 et les niveaux de justifiabilité 10 dépassent des seuils respectifs prédéterminés. Comme illustré à la figure 5, les moyens 4 prennent d’abord connaissance, à l’étape 41, d’une liste de données de justification 5 à détecter pour chaque résultat 8 possible. Ensuite, pour chaque séjour 7 fourni en entrée dont le résultat de classification est proposé à l’utilisateur, les moyens détectent à l’étape 42, au sein des données 7, quelles sont les données de la liste 5 préalablement établie qui vont permettre de justifier le résultat 8 auprès de l’utilisateur 2. A l’étape 43, les moyens 4 déterminent un niveau de justifiabilité 10 à partir des données de justifications détectées. Enfin, à l’étape 44, les moyens vérifient si le niveau de justifiabilité 10 est égal ou supérieur à un seuil de justifiabilité prédéterminé, paramétré par l’utilisateur 2. Si tel est le cas, et si le niveau de confiance du résultat est supérieur au seuil de confiance, alors le résultat est affiché à l’étape 45 sur l’interface 6 de l’utilisateur, accompagné des données de justifications détectées pour ce résultat. Nous allons désormais revenir sur chacune de ces étapes. Par « niveau de justifiabilité », on veut parler d’une quantité et/ou d’une qualité de données déterminées par les moyens automatisés 4 permettant de justifier auprès de l’utilisateur 2 les résultats proposés. Mais alternativement, il pourrait s’agir de toute manière de quantifier la capacité qu’auraient les moyens 4 à justifier auprès de l’utilisateur 2 les résultats proposés 8. A ) L es données de justification En l’espèce, pour un séjour 7 donné et parmi l’ensemble de données formant ledit séjour, les moyens automatisés détectent des données dites « de justification » 5 qui correspondent au résultat proposé. Ainsi, pour un patient atteint de fibrillation auriculaire chronique, les moyens peuvent par exemple détecter une phrase au sein d’un compte-rendu d’hospitalisation mentionnant explicitement une « fibrillation auriculaire chronique » ou des symptômes proches. Si le résultat de la classification de ce séjour est un code comprenant « I48.2 » (code PMSI correspondant à ce type de fibrillation), la phrase est alors proposée à l’utilisateur en même temps que le résultat, de façon à justifier ce dernier. Ainsi, non seulement l’utilisateur 2 a la possibilité de valider des résultats dont le niveau de confiance est supérieur à un seuil qu’il a prédéterminé, mais il peut en outre s’appuyer sur les données de justifications 5 fournies pour décider ou non de valider ce résultat, plutôt que de se plonger dans le dossier médical relatif au séjour concerné. B) La détermination des données de justification Pour détecter les données de justifications, telles que la phrase mentionnée ci-dessus, les moyens 4 doivent en avoir connaissance, c’est l’étape 41, que l’on détaille maintenant. Ainsi, dans une première variante illustrée à la figure 6, les moyens ont a priori connaissance des données à détecter 5, associées à tout ou partie des résultats possibles. Ces données peuvent avoir été fournies par l’utilisateur 2 ou par un autre moyen humain au préalable aux moyens 4. Il peut par exemple s’agir d’une liste de termes associés à chaque résultat possible. Par exemple, comme illustré, un utilisateur peut avoir fourni une liste de données de justification 5 pour le code I48.0 correspondant à une « fibrillation auriculaire paroxystique », cette liste contenant les termes : fibrillation auriculaire », « acfa », « fa », ou des termes relatifs à la prise en charge thérapeutique de ce diagnostic, tel que le terme « cordarone ». Dans une deuxième variante illustrée à la figure 7, les moyens automatisés 4 ont préalablement mis en œuvre un procédé d’apprentissage visant à déterminer quelles sont les données de justification 5 qu’ils doivent détecter par la suite. Cet apprentissage est réalisé sur une base de données d’apprentissage, c’est-à-dire où les classes correspondant aux séjours sont connus. Pour rappel, un séjour 7 fourni en entrée est formé d’un vecteur correspondant à plusieurs données administratives et plusieurs données textuelles. Dans une étape 31, on effectue via le modèle 3 la classification de plusieurs séjours relatifs à la même classe, par exemple des séjours relatifs à une tachycardie ventriculaire, donc au code PMSI I47.2. Les moyens déterminent les niveaux de confiance associés à chaque résultat. Admettons par exemple qu’ils oscillent entre 85 et 95 % de précision selon les séjours. Dans une étape 32, les moyens 4 sélectionnent parmi eux les séjours qui sont classés correctement, c’est-à-dire ceux auxquels le modèle 3 a bien assigné le code I47.2, ou un code comprenant le code I47.2. Dans une étape 33, une ou plusieurs données du vecteur 7 fourni en entrée du modèle est masquée. Par exemple, on reforme le vecteur au moyen des mêmes documents administratifs et textuels utilisés, mais en supprimant toutes les occurrences du terme « ventriculaire ». Dans une étape 34, on procède à de nouvelles classifications, du même modèle 3, sur ces vecteurs. Les moyens 4 déterminent alors les niveaux de confiance associés à chacun des résultats. Dans une étape 35, on compare les nouveaux niveaux de confiance aux anciens. Si, en moyenne, les niveaux de confiance ont diminué de manière spectaculaire, par exemple de 5%, alors cela signifie que la donnée masque, ici le terme « ventriculaire », est particulièrement importante dans le choix du modèle 3 d’assigner à ces séjours le code I47.2. C’est pourquoi les moyens automatisés 4 intègrent alors, à l’étape 36 la donnée masquée, ici le terme « ventriculaire », à une liste de données de justification 5 correspondant à la classe I47.2. Ce procédé est applicable à n’importe quelle classe, de manière générale à n’importe quel résultat possible. Bien entendu, le niveau de baisse de confiance à partir duquel une donnée est considérée comme une donnée de justification peut être configuré par l’utilisateur 2. Bien entendu, les deux variantes précédemment décrites pour que les moyens 4 aient connaissance des données de justification 5 à détecter peuvent être mises en œuvre simultanément : certaines données de justification peuvent avoir été fournies manuellement, quand d’autres peuvent avoir été « apprises » par les moyens automatisés 4. Ainsi, chaque résultat possible de la classification, c’est-à-dire chaque code PMSI possible, est associé à une liste de données de justification dans cette étape 41. Alternativement, dans un mode de mise en œuvre non illustré, la détermination des données de justification à détecter peut se faire a posteriori, c’est-à-dire après la classification des séjours 7 par le modèle 3. Dans ce cas, des étapes similaires aux étapes 31 à 36 sont réalisées non pas pour une série de séjours d’entraînement correspondant à une même classe et sur une base d’apprentissages, mais pour chaque séjour 7 correspondant à un résultat 8, et donc sur des données « réelles », sans apprentissage préalable. Ainsi, après la classification réalisée, pour chaque séjour 7, les moyens 4 masquent certaines des données du séjour entre des classifications successives de ces données, de façon à déterminer laquelle ou lesquelles de ces données font varier substantiellement le niveau de confiance calculé. Ce sont ces données qui sont dès lors considérées comme des données de justification du résultat 8. Ce procédé de détection a posteriori est moins précis que le procédé 30 réalisé de façon préalable sur une base d’apprentissage et décrit plus haut, puisque ce dernier permet de moyenner les niveaux de confiance pour plusieurs séjours correspondant à une même classe en sortie, et donc de déterminer les types de données à détecter les plus pertinents pour tous types de séjours. Toutefois, ce procédé de détection à posteriori permet de fournir des données de justification dans le cas où le procédé 30 n’a pas été mis en œuvre au préalable pour certains ou voire tous les résultats. Bien entendu, ce procédé peut aussi être combiné aux procédés précédents réalisés de façon préalable à la classification. C) La détermination du niveau de justifiabilité Le niveau de justifiabilité 10 peut être défini de manière diverse. Il peut correspondre à un chiffre, par exemple à un pourcentage exprimant le nombre de données de justification de la liste détectée dans les données 7 d’un séjour à classer. Il peut également s’agir d’une échelle, comprenant par exemple quatre niveaux : bon, moyen, faible, absent. Dans ce cas, chaque liste de données de justification est organisée en rapport avec ces niveaux. Le niveau « bon » comprend certains termes très pertinents, par exemple l’intitulé exact du diagnostic. Si un ou des termes de cette liste pertinente sont détectés, alors le niveau de justifiabilité est effectivement bon. Le niveau « faible » comprend des termes moins pertinents de la liste de justifications, par exemple des termes qui peuvent être relatifs à plusieurs diagnostics. Le niveau « moyen » correspond à la détection, pour un même séjour, de termes appartenant à la catégorie « bon » et d’autres termes appartenant à la catégorie « faible ». L’organisation de ces listes en fonction de ces niveaux peut être faite manuellement, par un utilisateur indiquant lui-même quels sont les termes particulièrement pertinents permettant de justifier de manière satisfaisante un résultat, et quels sont les termes qui permettent de justifier un résultat mais de manière moins certaine. Cette organisation peut également être effectuée par les moyens automatisés 4, notamment quand ils « apprennent » à détecter les données de justification 5 (voir plus haut). Par exemple, si une donnée masquée lors de cet apprentissage fait baisser le niveau de confiance, associé à un résultat, de 10%, alors ce terme peut être assigné à la catégorie « bon ». Ces seuils visant à organiser les niveaux de justifiabilité peuvent bien entendus être configurés par l’utilisateur 2. Ainsi, pour chaque résultat 8 proposé à l’utilisateur, un niveau de justifiabilité 10 de ce résultat est déterminé par les moyens automatisés 4. Ensuite, en fonction de ce niveau, le résultat est proposé ou non par les moyens 4 à l’utilisateur 2. En effet, l’utilisateur peut paramétrer un seuil de justifiabilité, en-dessous duquel les résultats correspondant ne seront pas proposés à l’utilisateur 2. Dans un troisième mode de réalisation, on passe de l’étape 42 de la figure 5 à l’étape 45 sans passer par les étapes 43 et 44. En d’autres termes les moyens détectent les données de justification mais ne déterminent pas un niveau de justifiabilité. Cela revient à configurer le niveau de justifiabilité en mode « absent ». Tous les résultats proposés à l’utilisateur sont ceux dont seul le niveau de confiance dépasse un seuil prédéterminé, et tous sont associés à des données de justification si elles ont été détectées. D) Résumé des seuils En résumé, une fois que le modèle 3 a classé des séjours 7, les moyens automatisés 4 évaluent les résultats, c’est-à-dire les codes 8 proposés à ces séjours. Ils déterminent d’abord les niveaux de confiances associés à ces résultats. Ceux dont le résultat est supérieur à un seuil d’automatisation sont classés automatiquement. En effet, pour eux, le taux d’erreur dans la classification est trop faible par rapport aux exigences de qualité du codage PMSI. Ce seuil d’automatisation est par exemple de 99%, ce qui signifie, que statistiquement, 1% des séjours devrait être mal classé. Ceux dont le niveau de confiance est trop faible, c’est-à-dire en-dessous du seuil de quasi-automatisation, sont évacués du processus. Ils seront traités à part, par exemple en étudiant le dossier médical du séjour 7. Pour ceux qui dépassent ce seuil, les moyens automatisés 4 déterminent le niveau de justifiabilité associé à chaque résultat. Ceux dont les niveaux de justifiabilité est inférieur au seuil de justifiabilité prédéterminé sont exclus et seront traités à part. Restent donc les résultats correspondant à des niveaux de confiance et de justifiabilité supérieurs aux seuils. Ce sont ces résultats qui sont proposés à l’utilisateur 2, avec les données de justification détectées par les moyens 4 et associées à chaque résultat. L’utilisateur peut décider de valider chacun des résultats, auquel cas le classement est définitif, ou au contraire il peut en invalider. En d’autres termes, l’évaluation des résultats qui ne sont pas « automatisés » permet de filtrer les propositions de classification selon deux critères cumulatifs : ne sont proposés à l’utilisateur que les résultats qui dépassent ou égalent le seuil de confiance de « quasi-automatisation » et qui, en même temps, dépassent ou égalent le seuil de justifiabilité, les deux seuils pouvant être prédéterminés par l’utilisateur. Il est à noter que, même si le niveau de justifiabilité n’est pas déterminé, les données de justification peuvent être détectées et présentées à l’utilisateur. Cela correspond au seuil de justifiabilité configuré en mode « absent ». V. L’interface utilisateur L’interface utilisateur 6 schématise ce que l’utilisateur 2 visualise sur un écran d’ordinateur lorsqu’il met en œuvre l’invention. L’évolution de cette interface est illustrée à la figure 9 A) Le n iveau hiérarchique des résultats Comme on l’a décrit plus haut, les résultats sont organisés sous la forme d’une arborescence, avec des résultats aux niveaux hiérarchiques différents. A partir de cette arborescence, l’utilisateur peut effectuer des requêtes aux paramètres variés. Il peut d’abord décider des niveaux hiérarchiques dans lesquels il souhaite effectuer la classification, à l’étape 51. En effet, il n’est pas toujours nécessaire que le séjour soit assigné au code le plus précis possible. L’utilisateur peut donc configurer le modèle 3, au moyen de son interface, pour que les résultats soient plus génériques, ce qui améliore également la précision des résultats. B ) L e paramétrage du seuil de confiance Pour paramétrer le seuil de confiance, l’utilisateur 2 peut faire appel à des courbes de précision-sensibilité, telles qu’illustrées à la figure 8. Ces courbes sont réalisées en amont, lors d’un grand nombre de classification de tests, à raison d’une courbe par classe, c’est-à-dire par résultat ou code possible. Elles représentent en abscisse la sensibilité, c’est-à-dire le ratio entre le nombre de séjours prédits dans la classe et le nombre total de séjours qui devraient être prédits dans cette classe. En ordonnée, il s’agit de la précision, ce qui correspond au niveau de confiance 9 déjà décrit précédemment. Il s’agit en d’autres termes du nombre de séjours bien prédits sur l’ensemble du nombre de séjours prédits. A partir de ces courbes, l’utilisateur peut décider à l’étape 52, pour chaque classe, du seuil de précision, c’est-à-dire du seuil de confiance, au-delà duquel il souhaite se voir rapporter les résultats. Cette courbe signifie que, plus ce seuil va être élevé, plus les résultats que l’utilisateur se verra proposer auront une probabilité d’être bons, mais plus le nombre de résultats proposés sera faible. L’utilisateur doit donc arbitrer entre précision et nombre de propositions qu’il souhaite vérifier. C’est également via cette interface 6 que l’utilisateur peut régler le seuil d’automatisation à partir duquel les résultats sont automatiquement validés. Dans une première variante, ces seuils correspondent directement au niveau hiérarchique des résultats proposés. En d’autres termes, les moyens automatisés 4 vérifient si la précision associée directement au résultat dépasse ou non le seuil de confiance. Dans une deuxième variante illustrée à l’étape 53, le niveau de confiance déterminée n’est pas celle associée directement au résultat, mais à un nœud parent du résultat au sein de l’arborescence. C’est ainsi l’utilisateur 2 qui peut paramétrer la façon dont est déterminé le niveau de confiance. Par exemple, admettons que le seuil de confiance paramétré par l’utilisateur pour la quasi-automatisation soit de 80%. Admettons également que le résultat proposé à l’issue de la classification d’un séjour soit le code I481 (« fibrillation auriculaire persistante ») avec une précision de 75%. Dans la première variante, on comparait au seuil le niveau de confiance du résultat proposé, si bien qu’ici ce résultat ne serait pas soumis à l’utilisateur. Mais dans la deuxième variante illustrée à l’étape 54, on compare au seuil le niveau de confiance correspondant au code I48 (« Fibrillation et flutter auriculaires ») qui correspond au nœud parent du nœud associé au résultat. La précision est certainement supérieure, par exemple de 85% car ce nœud correspond à un diagnostic plus générique. Dans cette deuxième variante, le résultat I481 sera donc proposé à l’examinateur car le niveau de confiance associé au parent de ce résultat dépasse le seuil de confiance. L’utilisateur peut ainsi paramétrer à sa guise quel niveau hiérarchique de résultats il veut se voir proposer, mais aussi et indépendamment, à quel niveau hiérarchique est déterminée la confiance associée au résultat. Bien entendu, la confiance est nécessairement associée à un niveau égal ou plus générique que celui du résultat. Dans une troisième variante illustrée à l’étape 55, l’utilisateur 2 peut décider que la précision mesurée correspond non pas à un seul nœud, mais à un groupe de nœud. Par exemple, si le seuil est de 80%, il peut vouloir déterminer l’ensemble des séjours qui sont assignés, avec au moins 80 % de précision, à l’un des codes d’un groupe formé des codes I44.4 (bloc fasciculaire antérieur gauche), I44.5 (bloc fasciculaire postérieur gauche), et I44.3 (bloc de branche gauche). Si un niveau de confiance déterminé est de 85%, il est affiché à l’utilisateur car cette confiance est supérieure au seuil de 80%, et cette précision signifie qu’il y a 85% de chance pour que ce séjour corresponde effectivement à l’un de ces trois codes. C’est ainsi une manière de déterminer quels séjours correspondent à seulement certains diagnostics qui intéressent l’utilisateur. C) Le paramétrage du seuil de justifiabilité Au moyen de la même interface, l’utilisateur 2 peut décider du seuil de justifiabilité à l’étape 56. Comme on l’a vu précédemment, le niveau de justifiabilité peut correspondre à un score numérique, auquel cas l’utilisateur peut paramétrer la valeur numérique du seuil. Il peut également s’agir d’un niveau d’une échelle, tel que « bon », « moyen », « faible » ou « absent ». Dans ce cas, l’utilisateur règle le seuil à partir duquel il veut se voir proposer les résultats associés. Dans le cas où il choisit le seuil « absent », cela revient à ne pas prendre en compte la justifiabilité, mais seulement le niveau de confiance des résultats. La détermination du niveau de justifiabilité peut être adaptée de la même manière que celle du niveau de confiance. Ainsi, elle peut correspondre directement au résultat proposé comme illustré à l’étape 57. Elle peut aussi correspondre, dans une variante illustrée à l’étape 58, à un nœud parent du résultat proposé. Enfin, il peut s’agir d’un niveau de justifiabilité associé à un groupe de résultats possibles comme illustré à l’étape 59. Ainsi, les deux seuils sont réglés par l’utilisateur, et associés au résultat, à un nœud hiérarchiquement supérieur ou à un groupe de nœuds, de manière indépendante du résultat et de manière indépendante l’un de l’autre. C) Un réglage auto-adaptatif Dans une variante de mise en œuvre non illustrée, il est également possible de prévoir un réglage auto-adaptatif d’un ou des deux seuils. Cela revient à prévoir non pas des seuils uniques, mais une évolution des seuils et des niveaux hiérarchiques qu’ils concernent en fonction du niveau de confiance associé au résultat. Prenons l’exemple d’un seuil de confiance auto-adaptatif, qui est en première approche réglé à 80% et pour un niveau hiérarchique particulier. Si le niveau de confiance associé à un résultat d’une classification, pour ce niveau hiérarchique, n’est pas obtenu, les moyens automatisés 4 vont alors vérifier si le seuil de confiance est atteint pour un nœud parent du résultat. Ils peuvent également modifier le seuil de confiance à atteindre pour ce nœud parent. Si le seuil est atteint, c’est le résultat correspondant au nœud parent qui peut être affiché avec la précision associée. Cet exemple n’est pas limitatif, le réglage auto-adaptatif pouvant procéder de différentes manières. Il vise à afficher des résultats pour chaque séjour prédit, mais des résultats les plus précis possibles. Si pour certains séjours, un résultat précis est impossible, alors ce type de réglage permet d’afficher à l’utilisateur une classe de sortie plus large que souhaitée, mais qui donne une indication du classement du séjour à l’utilisateur. Grâce à cette variante, l’utilisateur n’a pas à redéfinir, si les résultats affichés ne lui conviennent pas, les seuils et les niveaux hiérarchiques qu’ils concernent, il peut se contenter d’une seule évaluation de tous les séjours et pour laquelle les seuils de confiance vont être adaptés aux résultats de chaque séjour. D ) La validation des choix Un e fois que l’utilisateur a réglé les seuils et la manière dont les niveaux de confiance et de justifiabilité sont déterminés, il peut lancer l’évaluation, à l’étape 60, par les moyens automatisés 4, des résultats proposés par le modèle 3. Il obtient alors sur l’interface utilisateur 6 une liste de résultats 8, qu’il peut décider de valider ou d’invalider. Il est à noter que sur une même page, l’ensemble des résultats, c’est-à-dire tous les classements proposés, peuvent être affichés à l’utilisateur, lequel peut faire défiler ces propositions si besoin est. En d’autres termes, la page de résultats affiche une liste des séjours fournis en entrée au modèle et tous les codes prédits par le modèle pour chaque séjour. Cela permet à l’utilisateur de parcourir en quelques instants l’ensemble des résultats pour l’ensemble des séjours, et de ne pas avoir à passer d’un séjour à un autre pour connaître les résultats des classifications de ces séjours. Alternativement, le logiciel 1 peut tout aussi bien proposer les résultats correspondant à un seul séjour par page. Ces résultats sont ceux pour lesquels les niveaux de précision (confiance) 9, et optionnellement de justifiabilité 10, dépassent ou égalent les seuils paramétrés par l’utilisateur. Pour chaque résultat de la liste, l’interface présente à l’examinateur une référence au séjour médical 7 fourni en entrée au modèle 3, le niveau de confiance 9 ou précision associée au résultat de ce séjour, que ce soit le niveau associé directement au résultat, ou le niveau associé indirectement au résultat en reflétant le niveau de précision associé à un nœud hiérarchiquement supérieur ou à un groupe de nœuds. Figure aussi, si l’utilisateur souhaite le connaître, le niveau de justifiabilité 10, là encore qu’il soit associé directement ou indirectement au résultat. Enfin, les données de justifications 5 détectées par les moyens 4 sont également affichées. Ainsi, pour chaque résultat 8 de la liste, l’utilisateur 2 peut, dans une durée réduite, vérifier que ce résultat 8 semble être le bon en jetant un coup d’œil aux données de justifications 5 présentées. Il n’a donc pas besoin de se replonger dans le dossier médical associé au séjour 7, et peut en un clic sur le bouton 61, valider le résultat proposé. Alternativement, les résultats 8 peuvent être déjà présentés sous forme « validée », de sorte que la seule action de l’utilisateur 2 peut être de les « invalider » s’il le juge opportun au regard des données de justifications fournies. V I ) Mise en œuvre A) Mise en œuvre principale Afin de récapituler les moyens et étapes mis en œuvre, on va maintenant décrire un mode de mise en œuvre de l’invention par l’utilisateur 2, en référence au procédé illustré à la figure 9. L’utilisateur 2 souhaite classer le mieux possible et le plus rapidement possible une liste de séjours médicaux, c’est-à-dire leur assigner un ou plusieurs codes PMSI à chacun. Ces codes sont regroupés en arborescence. A l’étape 101, il fournit au modèle 3 la liste des séjours médicaux qu’il souhaite classer. A l’étape 102, il paramètre le niveau hiérarchique des résultats qu’il souhaite se voir proposer. A l’étape 103, il règle le seuil de confiance prédéterminé. A l’étape 104, il paramètre la détermination du niveau de confiance 9 qu’il souhaite voir comparer au seuil réglé à l’étape 103. Il peut ainsi s’agir d’un niveau de confiance du résultat lui-même, ou correspondant à un nœud parent du résultat, ou à un groupe de nœuds. A l’étape 105, il réalise les mêmes réglages pour le niveau de justifiabilité. A l’étape 106, il lance la classification, effectuée par le modèle 3. A l’étape 107, il lance l’évaluation de cette classification, évaluation effectuée par les moyens 4. A l’étape 108, les résultats sont affichés sur son interface. Seuls ceux qui ont respecté les seuils de confiance et de justifiabilité sont affichés, accompagnés de données de justification. L’utilisateur 2 peut alors valider ou invalider le classement de ces séjours, c’est-à-dire les codes assignés à ces séjours. L’avantage principal du procédé décrit précédemment est que le nombre des séjours à traiter manuellement est grandement réduit grâce à l’évaluation des séjours « quasi-automatisables ». Corollairement, le nombre de ces séjours est lié aux seuils de confiance et de justifiabilité paramétrés par l’utilisateur : par exemple plus la précision demandée est faible, moins le nombre de séjours écartés de la phase de validation sera grand. Il peut donc à tout moment arbitrer entre le taux d’erreur maximum qu’il est prêt à accepter et le temps qu’il souhaite passer à étudier les séjours de manière approfondie. L’étape 109 concerne les séjours 7 qui n’ont pas été classés parce qu’ils ne respectaient pas les seuils de confiance ou de justifiabilité, ainsi que ceux qui les respectaient mais dont l’utilisateur 2 a invalidé les résultats. En effet, même pour ces séjours à classer manuellement, les moyens 4 fournissent une assistance précieuse. L’utilisateur peut ainsi être aidé par le résultat proposé par la classification, voire par les données de justifications déterminées. En effet, même si le résultat proposé est erroné, ces informations sont très pertinentes car elles peuvent inciter l’utilisateur par exemple à assigner au séjour un code voisin de celui proposé, sans qu’il n’ait besoin d’étudier de manière approfondie le dossier médical relatif au séjour. Le procédé d’évaluation décrit permet donc un gain de temps considérable dans l’assignation des codes PMSI à des séjours médicaux. B) Contrôle qualité Dans un deuxième mode de mise en œuvre illustrée à la figure 11, les moyens décrits précédemment permettent de contrôler la qualité de classification d’un modèle de classification, par exemple le modèle 3. Pour cela, on utilise des bases de données de séjours médicaux de test, c’est-à-dire dont les codes PMSI sont déjà connus. Dans une étape 201, le modèle 3 classe ces séjours médicaux dont les codes sont a priori connus. A l’étape 202, les moyens automatisés 4 évaluent les classifications de la manière précédemment décrite, et rendent compte en particulier de la précision de chaque résultat fourni. Étant donné que les codes corrects sont connus, il est possible de comparer les résultats et leur précision d’un côté, avec les résultats attendus de l’autre. Cette comparaison est effectuée par les moyens automatisés 4 à l’étape 203, qui peuvent alors en déduire si les différences trouvées remettent en cause le modèle de classification, ou si ce modèle présente des taux d’erreur conformes aux niveaux de précisions déterminés par les moyens 4. Il peut alors être décidé à l’étape 204 de modifier le modèle 3 pour le rendre plus performant. Ces modifications peuvent être manuelles ou automatiques. En outre, les moyens automatisés 4 permettent de vérifier pourquoi certains séjours ont été mal classés, en particulier en étudiant les données de justifications qui leur sont associées. L'invention n'est pas limitée aux modes de réalisation présentés et d'autres modes de réalisation apparaîtront clairement à l'homme du métier. Ainsi, outre des mots ou des phrases, les données médicales à classifier peuvent être de tout ordre, par exemple d’ordre quantitatif. Il peut ainsi s’agir de l’indice de masse corporelle d’un patient, de la consommation tabagique en nombre de paquées par an, du volume d’une hémorragie, du volume d’une rétention urinaire, de la fraction d’éjection ventriculaire gauche, etc. Par ailleurs, l’invention n’est pas limitée à la prédiction des codes PMSI. Par exemple, au lieu des diagnostics principaux et associés relatifs aux séjours médicaux, on pourra prédire et donc évaluer la prédiction des actes CCAM, au moyen des mêmes données que celles fournies en entrée pour la prédiction des codes PMSI. On pourra donc là encore effectuer l’évaluation et/ou la justification de ces prédictions au moyen de l’invention. Il est à noter que les données médicales correspondent à toute donnée liée directement ou indirectement au champ médical, et pas nécessairement aux données issues d’un séjour médical en établissement de santé. Ainsi, elles peuvent correspondre à des éléments médicaux en dehors du champ du codage PMSI. Par exemple, le procédé peut concerner la classification d’un statut d’un patient vis-à-vis d’une mutation génétique donnée, ou vis-à-vis d’un type d’allergie. Il s’agit toujours de données médicales, mais d’ordre plus large que celles du codage PMSI. La classification peut également concerner les antécédents médicaux d’un patient, ou encore ses antécédents chirurgicaux. Elle peut même concerner ses antécédents familiaux. Il ne s’agit donc pas ici de données nécessairement issues d’un séjour médical, il ne s’agit pas nécessairement de prédire un code PMSI ou un diagnostic, mais il s’agit toujours de la classification de données médicales. On rappelle également que l’invention n’est pas liée à un modèle de classification ou à un type de modèle auto-apprenant particulier. Les données fournies à l’évaluation sont uniquement le résultat d’une classification et un score associé à ce résultat, et ces données ne dépendent pas du modèle de classification. L’invention peut donc être adaptée à tous types de modèles de classification. De manière générale, l’invention n’est pas limitée aux classifications automatiques de données médicales. En effet, elle concerne l’évaluation des résultats proposés à l’issue de classification, elle ne dépend pas des types de données et peut donc s’étendre à tout type de domaines où on procède à des classifications automatiques. Procédé (100) de génération de données structurées à partir de données non structurées ou structurées, dans lequel des données médicales (7) font l’objet de propositions de classification automatique, le procédé comprenant une phase d’évaluation (107), d’au moins un résultat (8) d’une proposition, dans laquelle : des moyens automatisés (4) déterminent un niveau de confiance (9, 20) associé au résultat (8), les moyens automatisés (4) comparent le niveau de confiance (9) associé au résultat à un seuil de confiance prédéterminé, et les moyens automatisés (4) affichent à un utilisateur (2) le résultat si le niveau de confiance associé au résultat est supérieur ou égal au seuil de confiance prédéterminé. Procédé (100) selon la revendication précédente, dans lequel les moyens automatisés (4) affichent également à l’utilisateur au moins une donnée de justification (5) du résultat (8) détectée. Procédé (100) selon la revendication précédente, dans lequel la donnée de justification (5) appartient aux données médicales (7) ayant fait l’objet de la proposition de classification correspondant au résultat, et est textuelle. Procédé (100, 40) selon l’une quelconque des revendications précédentes, dans lequel : les moyens automatisés (4) déterminent également un niveau de justifiabilité (10) associé au résultat (8), les moyens automatisés (4) comparent le niveau de justifiabilité (10) associé au résultat à un seuil de justifiabilité prédéterminé, les moyens automatisés (4) affichent à l’utilisateur le résultat si, en outre, le niveau de justifiabilité (10) est supérieur ou égal au seuil de justifiabilité prédéterminé. Procédé (100, 40) selon l’une quelconque des revendications précédentes, dans lequel, pour déterminer le niveau de justifiabilité (10) associé au résultat (8) : parmi les données médicales (7), les moyens automatisés (8) détectent au moins une ou l’une des données de justification (5) du résultat (8), et en fonction de la ou de chaque donnée de justification (5) détectée, les moyens (4) déterminent le niveau de justifiabilité (10) associé au résultat. Procédé (100, 30) selon la revendication 2 à 5, dans lequel, pour détecter une donnée de justification (5) du résultat (8), les moyens automatisés (4) déterminent, au préalable, un ou des types de données de justification (5) à détecter. Procédé (100, 30) selon la revendication précédente, dans lequel, pour déterminer un ou des types de données de justification (5) à détecter, à partir d’une base de données médicales d’apprentissage : grâce à des données médicales d’apprentissage de la base, les moyens automatisés (4) effectuent une première classification et déterminent un premier niveau de confiance associé à un résultat de la première classification, les moyens automatisés (4) masquent au moins l’une des données médicales d’apprentissage utilisées pour effectuer la première classification, les moyens automatisés (4) effectuent une deuxième classification en utilisant des données dépourvues de la donnée médicale d’apprentissage masquée et déterminent un deuxième niveau de confiance de la deuxième classification, si la différence entre le premier et le deuxième niveau de confiance est supérieure à un seuil prédéterminé, les moyens automatisés (4) enregistrent un type de la donnée médicale d’apprentissage masquée en tant que type de donnée de justification à détecter. Procédé (100) selon l’une quelconque des revendications 2 à 5, dans lequel, pour détecter une donnée de justification du résultat (8), un ou des types de données de justification (5) à détecter sont fournies aux moyens automatisés (4) par l’utilisateur. Procédé (100) selon l’une quelconque des revendications 2 à 5, dans lequel les moyens automatisés (4) détectent la ou les données de justification (5) à partir de la ou des données médicales (7) qui ont fait l’objet de la proposition de classification automatique ayant abouti au résultat (8). Procédé (100) selon la revendication précédente, dans lequel, pour détecter la ou les données de justification (5) à partir de la ou des données médicales (7) qui ont fait l’objet de la proposition de classification automatique ayant abouti au résultat (8), la classification étant une première classification et le niveau de confiance associé au résultat étant un premier niveau de confiance : les moyens automatisés (4) masquent au moins l’une des données médicales utilisées pour effectuer la première classification, les moyens automatisés (4) effectuent une deuxième classification en utilisant les données dépourvues de la donnée médicale masquée et déterminent un deuxième niveau de confiance de la deuxième classification, si la différence entre le premier et le deuxième niveau de confiance est supérieure à un seuil prédéterminé, les moyens automatisés (4) enregistrent la donnée médicale masquée en tant que donnée de justification détectée. Procédé (100) selon l’une quelconque des revendications précédentes, dans lequel le résultat (8) appartient à une arborescence de nœuds correspondant à des résultats possibles. Procédé (100) selon la revendication précédente, dans lequel le niveau de confiance (9) est associé à un nœud de l’arborescence parent d’un nœud correspondant au résultat (8). Procédé (100) selon la revendication 11, dans lequel le niveau de confiance (9) est associé à un groupe de nœuds de l’arborescence comprenant un nœud correspondant au résultat (8). Procédé (100) selon l’une des revendications 4 à 11, dans lequel le niveau de justifiabilité (10) est associé à un nœud de l’arborescence parent d’un nœud correspondant au résultat (8). Procédé (100) selon l’une des revendications 4 à 11, dans lequel le niveau de justifiabilité (10) est associé à un groupe de nœuds de l’arborescence comprenant un nœud correspondant au résultat (8). Procédé (100) selon l’une quelconque des revendications 12 à 15, dans lequel, en fonction du niveau de confiance associé au résultat, les moyens automatisés (4) modifient l’association du niveau de confiance et de préférence le seuil de confiance. Procédé (100) selon l’une quelconque des revendications 14 à 16, dans lequel, en fonction du niveau de justifiabilité associé au résultat, les moyens automatisés (4) modifient l’association du niveau de justifiabilité et de préférence le seuil de justifiabilité. Procédé (100) selon l’une quelconque des revendications précédentes, dans lequel les moyens automatisés (4) permettent à un utilisateur (2) de prédéterminer le seuil de confiance de la revendication 1 et de préférence le seuil de justifiabilité de la revendication 4. Procédé (100) selon l’une quelconque des revendications précédentes, dans lequel une classification ayant suivi la proposition, les moyens automatisés (4) autorisent l’utilisateur (2) à invalider le résultat (8). Procédé (100) selon l’une quelconque des revendications précédentes, dans lequel les données médicales sont relatives à un ou plusieurs séjours médicaux de patients en établissement de santé. Procédé (100) selon la revendication précédente, dans lequel, les données médicales (7) étant relatives à plusieurs séjours médicaux, les moyens automatisés (4) affichent à l’utilisateur les résultats (8) des propositions de classification de tous les séjours (7). Procédé (100) selon l’une quelconque des revendications précédentes, dans lequel le résultat (8) de la proposition correspond à un ou plusieurs codes relatifs à des diagnostics médicaux, des actes ou procédures, des groupes homogènes de malades ou des groupes homogènes de séjours. Procédé (100) selon l’une quelconque des revendications précédentes, dans lequel le niveau de confiance (9) associé au résultat est une valeur numérique associée à une probabilité que le résultat soit correct Procédé (100) selon la revendication précédente, dans lequel, pour déterminer la valeur numérique associée à une probabilité que le résultat soit correct, au moyen d’une base de données médicales d’apprentissage : les moyens automatisés (4) effectuent des classifications de données d’apprentissage ; pour chaque classification, les moyens automatisés déterminent des valeurs numériques primaires associées respectivement à des résultats de la classification ; pour chaque classification, les moyens automatisés sélectionnent le résultat de la classification pour lequel la valeur numérique est la plus élevée ; pour chaque classification, les moyens automatisés comparent le résultat sélectionné avec un résultat attendu correct ; et en fonction de résultats des comparaisons, les moyens automatisés (4) déterminent la valeur numérique associée à une probabilité que le résultat sélectionné soit correct. Système de traitement de données (1, 3, 4, 7) comprenant des moyens de mettre en œuvre les étapes du procédé (100) selon l’une quelconque des revendications précédentes. Programme d’ordinateur, comprenant des instructions qui, lorsque le programme est exécuté par un ordinateur, conduisent celui-ci à mettre en œuvre les étapes du procédé (100) selon l’une quelconque des revendications 1 à 24. Procédé de mise à disposition du programme de la revendication précédente en vue de son téléchargement sur un réseau de télécommunications. Support de données lisible par ordinateur, sur lequel est enregistré le programme d'ordinateur selon la revendication 26.