Vers des interfaces favorisant l’engagement critique des utilisateurs : un prototype utilisant RAG (2025)

Abstract: Les chatbots à LLM sont devenus omniprésents, mais produisent parfois des informations trompeuses (« hallucinations »), souvent difficiles à repérer pour les utilisateurs. Cet article de démonstration présente une interface prototype conçue pour aider les utilisateurs à identifier et vérifier les informations cruciales dans le contenu généré par l’IA. Dans le cadre de la génération augmentée de recherche (RAG), l’interface met en évidence les informations clés et fournit un accès en temps réel aux sources de soutien ou contradictoires. Nous avons mené une étude avec 80 participants pour recueillir des retours et affiner la conception, en mettant l’accent sur l’amélioration de la source d’information et de la confiance des utilisateurs. Cet article montre comment l’interface peut aider à repérer la désinformation et à améliorer l’usage des LLM pour la recherche d’informations scientifiques.

## introduction ces dernières années, l'essor spectaculaire de l'ia a démocratisé les chatbots, devenus des outils quotidiens, mais les grands modèles de langage (llm) produisent parfois des informations fausses mais crédibles (« hallucinations ») @xcite @xcite . les llm génèrent aujourd'hui des textes très proches de l'écriture humaine, rendant la détection d'erreurs @xcite et l'évaluation de la fiabilité des contenus, voire de leur existence, de plus en plus difficiles. ce phénomène, répandu @xcite , affecte même les modèles les plus performants. par exemple, chatgpt ne fournit des références exactes ou partiellement exactes que dans 50% des cas, mais seuls 10% des documents cités existent réellement @xcite . une étude menée dans le cadre de la tâche 3 de clef 2024 simpletext @xcite , dédiée à la simplification automatique de textes scientifiques, a permis de mesurer ce contenu erroné. elle s'est appuyée sur l'identification de phrases générées ne partageant aucun mot avec le texte source. ces contenus parasites étaient fréquents : 47% des soumissions en comportaient dans au moins 10% des cas, 39% dans 20% des cas, et 19% dans 50% des cas. ces problématiques montrent la nécessité d'éviter que des informations incorrectes ne soient présentées à l'utilisateur. pour cela, plusieurs méthodes ont été développées @xcite @xcite , notamment des techniques de vérification des faits fondées sur la génération augmentée de récupération (retrieval augmented generation, ou rag) @xcite . celles-ci utilisent des sources externes pour enrichir le contexte des modèles de langage, améliorant ainsi la qualité des réponses. cette approche est particulièrement précieuse en recherche académique @xcite @xcite , où transparence et citation des sources sont essentielles. certains outils, comme scopus ai foot_0 , combinent recherche d'information et synthèse de contenu, mais leur accès est souvent restreint à des bases de données propriétaires, et ils ne sont généralement pas libres d'accès. les travaux existants sur les systèmes rag dotés d'interfaces se concentrent le plus souvent sur la compréhension technique de ces systèmes @xcite , plutôt que sur l'accompagnement des utilisateurs dans leurs recherches ou la vérification rapide d'informations. pour sensibiliser les utilisateurs aux risques de désinformation, les recherches sur l'influence de la détection d'erreurs dans les contenus générés sur la confiance en ia suivent généralement deux grandes approches. la première vise à intégrer des indices d'incertitude dans les réponses peu fiables pour aider les utilisateurs à repérer les erreurs potentielles @xcite . la seconde explore l'effet de différents modes de présentation, comme la mise en valeur visuelle ou l'affichage des sources, sur le niveau de confiance accordé aux contenus générés @xcite . des expérimentations ont ainsi testé les préférences des utilisateurs en matière d'explications à travers des captures d'écran @xcite ou des enregistrements d'interactions avec des interfaces de llm @xcite . toutefois, ces études reposaient sur des déclarations auto-rapportées et non anonymes, limitant leur fiabilité. elles fournissaient peu d'informations précises sur les sources citées, privilégiant les moyens de mettre en valeur certaines parties du texte généré. l'une d'elles impliquait un nombre réduit de participants et a pu négliger certains comportements ou usage. cette étude vise à combler des lacunes des approches actuelles en proposant une interface simple et intuitive, aidant à identifier et vérifier rapidement les informations clés d'un texte généré grâce aux sources associées. plus précisément, nous cherchons à répondre à la question suivante : « dans le contexte du rag, comment aider les utilisateurs à comprendre d'où provient l'information et à repérer d'éventuelles erreurs ou "hallucinations" dans le contenu généré par l'ia ? » face aux limites structurelles des modèles actuels, nous privilégions une approche socio-technique en développant des interfaces et outils d'accompagnement adaptés. nous ciblons l'environnement utilisateur des llms, notamment les modèles ouverts comme llama-2 @xcite . le système développé vise à renforcer la confiance des utilisateurs envers les contenus générés par l'ia grâce à une interface transparente et intuitive, permettant d'explorer les sources, d'évaluer la fiabilité des affirmations et d'interagir avec l'ia de manière plus éclairée. dans le cadre de cette démonstration, nous avons intégré l'api d'elsevier api foot_1 afin de concevoir un prototype dédié à la recherche académique assistée par ia, dans un environnement fondé sur le principe du rag. le système a été pensé pour renforcer la transparence et la confiance, en affichant des sources académiques, en surlignant les passages pertinents et en proposant des réponses qui tiennent compte du contexte. le moteur de recherche d'elsevier est utilisé pour extraire des articles scientifiques, des publications académiques, et des revues à comité de lecture. ce moteur est utilisé pour chercher des sources qui répondent directement aux requêtes des utilisateurs, telles que « quelles sont les dernières avancées de l'ia dans le domaine de la santé ? » ou « quel est l'impact de certains algorithmes sur l'analyse des données ? » pour valider les besoins des utilisateurs, et afin d'évaluer les premiers éléments de l'interface dans un environnement pseudo-rag, nous avons mené une étude contrôlée auprès de 80 participants, représentant des utilisateurs types de systèmes d'information scientifique -des personnes ayant un niveau d'éducation et un parcours professionnel avancés (ano, 2025). l'analyse des résultats a permis de mieux comprendre les attentes des utilisateurs, et de dégager de nouvelles exigences fonctionnelles. le prototype a ainsi été conçu en tenant compte de cette étude, avec un accent particulier sur l'expérience utilisateur, les préférences exprimées et les retours reçus : la majorité des participants (71%) ont trouvé l'interface facile à utiliser, tandis que 8% ont rencontré des difficultés. les avis étaient plus partagés sur les scores de confiance, l'affichage des sources et le surlignage, avec des perceptions divisées sur la fiabilité. malgré tout, l'expérience globale a été jugée positive ou neutre par la plupart. si 54 utilisateurs ont préféré la fonction de surlignage, 42 sont restés partagés sur les scores de confiance, qui ont reçu le plus de retours négatifs. 51 participants ont souhaité plus d'informations sur les erreurs potentielles, notamment les sources contradictoires. l'analyse des réponses ouvertes a permis de faire ressortir plusieurs axes d'amélioration prioritaires : ## conclusions cet article présente un prototype pour améliorer la recherche académique assistée par ia, intégrant récupération de sources fiables, génération contextuelle et attribution transparente. basé sur l'api elsevier scopus, le système renforce la crédibilité des réponses et offre des outils intuitifs de vérification aux utilisateurs. la démonstration est accessible à l'adresse suivante : https://simpletext-project.com/enable/ les retours utilisateurs ont guidé l'amélioration du système, en intégrant une option de surlignage, fonction d'historique, et meilleure couverture thématique. l'interface a été bien accueillie, surtout le surlignage, mais les avis mitigés sur les scores de confiance soulignent le besoin d'autres méthodes d'évaluation de la crédibilité. l'étude a également souligné l'importance de personnaliser les éléments visuels, comme des couleurs plus douces, pour améliorer le confort d'utilisation. en résumé, cette recherche met en lumière l'importance d'une conception centrée sur l'utilisateur pour les systèmes d'ia en contexte académique. en permettant aux utilisateurs d'interagir de manière critique avec le contenu généré par l'ia, tout en assurant transparence et facilité d'usage, ce système pose les bases d'outils de recherche plus fiables et interactifs. avec un développement continu, il pourrait renforcer la confiance et l'accessibilité des outils d'investigation assistés par ia. malgré ses fonctionnalités prometteuses, ce prototype a une couverture thématique restreinte, utilis des seuls résumés d'articles au lieu des textes complets, et des llm encore perfectibles. les prochaines versions viseront à élargir les sources, améliorer la précision des citations et renforcer l'accessibilité pour un public plus large. à l'avenir, nous continuerons à développer cette interface, en y intégrant un tutoriel d'accueil et de nouvelles études utilisateurs pour valider son adoption.