ymoslem/acl-abstracts huggingface dataset:
Portabilit\'e linguistique des mod\`eles de langage pr\'e-appris appliqu\'es \`a la t\^ache de dialogue humain-machine en fran\ccais (2023)

Dans cet article, nous proposons une {\'e}tude de la portabilit{\'e} linguistique des mod{\`e}les de langage pr{\'e}-appris (MLPs) appliqu{\'e}s {\`a} une t{\^a}che de dialogue {\`a} domaine ouvert. La langue cible (L{\_}T) retenue dans cette {\'e}tude est le fran{\c{c}}ais. Elle dispose de peu de ressources sp{\'e}cifiques pour la t{\^a}che consid{\'e}r{\'e}e et nous permet de r{\'e}aliser une {\'e}valuation humaine. La langue source (L{\_}S) est l`anglais qui concentre la majorit{\'e} des travaux r{\'e}cents dans ce domaine. Construire des MLPs sp{\'e}cifiques pour chaque langue n{\'e}cessite de collecter de nouveaux jeux de donn{\'e}es et cela est co{\^u}teux. Ainsi, {\`a} partir des ressources disponibles en L{\_}S et L{\_}T, nous souhaitons {\'e}valuer les performances atteignables par un syst{\`e}me de conversation en L{\_}T . Pour cela, nous proposons trois approches : TrainOnTarget o{\`u} le corpus L{\_}S est traduit vers L{\_}T avant l`affinage du mod{\`e}le, TestOnSource o{\`u} un mod{\`e}le L{\_}S est coupl{\'e} avec des modules de traduction au moment du d{\'e}codage et TrainOnSourceAdaptOnTarget, qui utilise un MLP multilingue - ici BLOOM (BigScience Workshop, 2022) - avec l`architecture MAD-X Adapter (Pfeiffer et al., 2020) pour apprendre la t{\^a}che en L{\_}S et l`adapter {\`a} L{\_}T . Les mod{\`e}les sont {\'e}valu{\'e}s dans des conditions de dialogue oral et les strat{\'e}gies sont compar{\'e}es en termes de qualit{\'e} per{\c{c}}ue lors l`interaction.
D\'etection d'\'ev\'enements \`a partir de peu d`exemples par seuillage dynamique (2023)

Les {\'e}tudes r{\'e}centes abordent la d{\'e}tection d'{\'e}v{\'e}nements {\`a} partir de peu de donn{\'e}es comme une t{\^a}che d`annotation de s{\'e}quences en utilisant des r{\'e}seaux prototypiques. Dans ce contexte, elles classifient chaque mot d`une phrase donn{\'e}e en fonction de leurs similarit{\'e}s avec des prototypes construits pour chaque type d'{\'e}v{\'e}nement et pour la classe nulle {\textquotedblleft}non-{\'e}v{\'e}nement{\textquotedblright}. Cependant, le prototype de la classe nulle agr{\`e}ge par d{\'e}finition un ensemble de mots s{\'e}mantiquement h{\'e}t{\'e}rog{\`e}nes, ce qui nuit {\`a} la discrimination entre les mots d{\'e}clencheurs et non d{\'e}clencheurs. Dans cet article, nous abordons ce probl{\`e}me en traitant la d{\'e}tection des mots non-d{\'e}clencheurs comme un probl{\`e}me de d{\'e}tection d`exemples {\textquotedblleft}hors-domaine{\textquotedblright} et proposons une m{\'e}thode pour fixer dynamiquement un seuil de similarit{\'e} pour cette d{\'e}tection.
S\'election globale de segments pour la reconnaissance d`entit\'es nomm\'ees (2023)

La reconnaissance d`entit{\'e}s nomm{\'e}es est une t{\^a}che importante en traitement automatique du langage naturel avec des applications dans de nombreux domaines. Dans cet article, nous d{\'e}crivons une nouvelle approche pour la reconnaissance d`entit{\'e}s nomm{\'e}es, dans laquelle nous produisons un ensemble de segmentations en maximisant un score global. Pendant l`entra{\^i}nement, nous optimisons notre mod{\`e}le en maximisant la probabilit{\'e} de la segmentation correcte. Pendant l`inf{\'e}rence, nous utilisons la programmation dynamique pour s{\'e}lectionner la meilleure segmentation avec une complexit{\'e} lin{\'e}aire. Nous prouvons que notre approche est sup{\'e}rieure aux mod{\`e}les champs de Markov conditionnels et semi-CMC pour la reconnaissance d`entit{\'e}s nomm{\'e}es.
Impact de l`apprentissage multi-labels actif appliqu\'e aux transformers (2023)

L`Apprentissage Actif (AA) est largement utilis{\'e} en apprentissage automatique afin de r{\'e}duire l`effort d`annotation. Bien que la plupart des travaux d`AA soient ant{\'e}rieurs aux transformers, le succ{\`e}s r{\'e}cent de ces architectures a conduit la communaut{\'e} {\`a} revisiter l`AA dans le contexte des mod{\`e}les de langues pr{\'e}-entra{\^i}n{\'e}s.De plus, le m{\'e}canisme de fine-tuning, o{\`u} seules quelques donn{\'e}es annot{\'e}es sont utilis{\'e}es pour entra{\^i}ner le mod{\`e}le sur une nouvelle t{\^a}che, est parfaitement en accord avec l`objectif de l`AA. Nous proposons d'{\'e}tudier l`impact de l`AA dans le contexte des transformers pour la t{\^a}che de classification multi-labels. Or la plupart des strat{\'e}gies AA, lorsqu`elles sont appliqu{\'e}es {\`a} ces mod{\`e}les, conduisent {\`a} des temps de calcul excessifs, ce qui emp{\^e}che leur utilisation au cours d`une interaction homme-machine en temps r{\'e}el. Afin de pallier ce probl{\`e}me, nous utilisons des strat{\'e}gies d`AA bas{\'e}es sur l`incertitude. L`article compare six strat{\'e}gies d`AA bas{\'e}es sur l`incertitude dans le contexte des transformers et montre que si deux strat{\'e}gies am{\'e}liorent invariablement les performances, les autres ne surpassent pas l'{\'e}chantillonnage al{\'e}atoire. L'{\'e}tude montre {\'e}galement que les strat{\'e}gies performantes ont tendance {\`a} s{\'e}lectionner des ensembles d`instances plus diversifi{\'e}es pour l`annotation.
Quelles \'evolutions sur cette loi ? Entre abstraction et hallucination dans le domaine du r\'esum\'e de textes juridiques (2023)

R{\'e}sumer automatiquement des textes juridiques permettrait aux charg{\'e}s de veille d'{\'e}viter une surcharge informationnelle et de gagner du temps sur une activit{\'e} particuli{\`e}rement chronophage. Dans cet article, nous pr{\'e}sentons un corpus de textes juridiques en fran{\c{c}}ais associ{\'e}s {\`a} des r{\'e}sum{\'e}s de r{\'e}f{\'e}rence produits par des experts, et cherchons {\`a} {\'e}tablir quels mod{\`e}les g{\'e}n{\'e}ratifs de r{\'e}sum{\'e} sont les plus int{\'e}ressants sur ces documents poss{\'e}dant de fortes sp{\'e}cificit{\'e}s m{\'e}tier. Nous {\'e}tudions quatre mod{\`e}les de l'{\'e}tat de l`art, que nous commen{\c{c}}ons {\`a} {\'e}valuer avec des m{\'e}triques traditionnelles. Afin de comprendre en d{\'e}tail la capacit{\'e} des mod{\`e}les {\`a} transcrire les sp{\'e}cificit{\'e}s m{\'e}tiers, nous effectuons une analyse plus fine sur les entit{\'e}s d`int{\'e}r{\^e}t. Nous {\'e}valuons notamment la couverture des r{\'e}sum{\'e}s en termes d`entit{\'e}s, mais aussi l`apparition d`informations non pr{\'e}sentes dans les documents d`origine, dites hallucinations. Les premiers r{\'e}sultats montrent que le contr{\^o}le des hallucinations est crucial dans les domaines de sp{\'e}cialit{\'e}, particuli{\`e}rement le juridique.
Augmentation de jeux de donn\'ees RI pour la recherche conversationnelle \`a initiative mixte (2023)

Une des particularit{\'e}s des syst{\`e}mes de recherche conversationnelle est qu`ils impliquent des initiatives mixtes telles que des questions de clarification des requ{\^e}tes g{\'e}n{\'e}r{\'e}es par le syst{\`e}me pour mieux comprendre le besoin utilisateur. L'{\'e}valuation de ces syst{\`e}mes {\`a} grande {\'e}chelle sur la t{\^a}che finale de RI est tr{\`e}s difficile et n{\'e}cessite des ensembles de donn{\'e}es ad{\'e}quats contenant de telles interactions. Cependant, les jeux de donn{\'e}es actuels se concentrent uniquement sur les t{\^a}ches traditionnelles de RI ad hoc ou sur les t{\^a}ches de clarification de la requ{\^e}te. Pour combler cette lacune, nous proposons une m{\'e}thodologie pour construire automatiquement des ensembles de donn{\'e}es de RI conversationnelle {\`a} grande {\'e}chelle {\`a} partir d`ensembles de donn{\'e}es de RI ad hoc afin de faciliter les explorations sur la RI conversationnelle. Nous effectuons une {\'e}valuation approfondie montrant la qualit{\'e} et la pertinence des interactions g{\'e}n{\'e}r{\'e}es pour chaque requ{\^e}te initiale. Cet article montre la faisabilit{\'e} et l`utilit{\'e} de l`augmentation des ensembles de donn{\'e}es de RI ad-hoc pour la RI conversationnelle.
Apprentissage de sous-espaces de pr\'efixes (2023)

Cet article propose une nouvelle fa{\c{c}}on d`ajuster des mod{\`e}les de langue en {\textquotedblleft}Few-shot learning{\textquotedblright} se basant sur une m{\'e}thode d`optimisation r{\'e}cemment introduite en vision informatique, l`apprentissage de sous-espaces de mod{\`e}les. Cette m{\'e}thode, permettant de trouver non pas un point minimum local de la fonction co{\^u}t dans l`espace des param{\`e}tres du mod{\`e}le, mais tout un simplexe associ{\'e} {\`a} des valeurs basses, pr{\'e}sente typiquement des capacit{\'e}s de g{\'e}n{\'e}ralisation sup{\'e}rieures aux solutions obtenues par ajustement traditionnel. L`adaptation de cette m{\'e}thode aux gros mod{\`e}les de langue n`est pas triviale mais son application aux m{\'e}thodes d`ajustement dites {\textquotedblleft}Parameter Efficient{\textquotedblright} est quant {\`a} elle relativement naturelle. On propose de plus une fa{\c{c}}on innovante d`utiliser le simplexe de solution {\'e}tudi{\'e} afin de revisiter la notion de guidage de l`ajustement d`un mod{\`e}le par l`inf{\'e}rence d`une m{\'e}trique de validation, probl{\'e}matique d`actualit{\'e} en {\textquotedblleft}few-shot learning{\textquotedblright}. On montre finalement que ces diff{\'e}rentes contributions centr{\'e}es autour de l`ajustement de sous-espaces de mod{\`e}les est empiriquement associ{\'e}e {\`a} un gain consid{\'e}rable en performances de g{\'e}n{\'e}ralisation sur les t{\^a}ches de compr{\'e}hension du langage du benchmark GLUE, dans un contexte de {\textquotedblleft}few-shot learning{\textquotedblright}.
Recherche cross-modale pour r\'epondre \`a des questions visuelles (2023)

R{\'e}pondre {\`a} des questions visuelles {\`a} propos d`entit{\'e}s nomm{\'e}es (KVQAE) est une t{\^a}che difficile qui demande de rechercher des informations dans une base de connaissances multimodale. Nous {\'e}tudions ici comment traiter cette t{\^a}che avec une recherche cross-modale et sa combinaison avec une recherche mono-modale, en se focalisant sur le mod{\`e}le CLIP, un mod{\`e}le multimodal entra{\^i}n{\'e} sur des images appareill{\'e}es {\`a} leur l{\'e}gende textuelle. Nos r{\'e}sultats d{\'e}montrent la sup{\'e}riorit{\'e} de la recherche cross-modale, mais aussi la compl{\'e}mentarit{\'e} des deux, qui peuvent {\^e}tre combin{\'e}es facilement. Nous {\'e}tudions {\'e}galement diff{\'e}rentes mani{\`e}res d`ajuster CLIP et trouvons que l`optimisation cross-modale est la meilleure solution, {\'e}tant en ad{\'e}quation avec son pr{\'e}-entra{\^i}nement. Notre m{\'e}thode surpasse les approches pr{\'e}c{\'e}dentes, tout en {\'e}tant plus simple et moins co{\^u}teuse. Ces gains de performance sont {\'e}tudi{\'e}s intrins{\`e}quement selon la pertinence des r{\'e}sultats de la recherche et extrins{\`e}quement selon l`exactitude de la r{\'e}ponse extraite par un module externe. Nous discutons des diff{\'e}rences entre ces m{\'e}triques et de ses implications pour l'{\'e}valuation de la KVQAE.
Adaptation de domaine pour la recherche dense par annotation automatique (2023)

Bien que la recherche d`information neuronale ait connu des am{\'e}liorations, les mod{\`e}les de recherche dense ont une capacit{\'e} de g{\'e}n{\'e}ralisation {\`a} de nouveaux domaines limit{\'e}e, contrairement aux mod{\`e}les bas{\'e}s sur l`interaction. Les approches d`apprentissage adversarial et de g{\'e}n{\'e}ration de requ{\^e}tes n`ont pas r{\'e}solu ce probl{\`e}me. Cet article propose une approche d`auto-supervision utilisant des {\'e}tiquettes de pseudo-pertinence automatiquement g{\'e}n{\'e}r{\'e}es pour le domaine cible. Le mod{\`e}le T53B est utilis{\'e} pour r{\'e}ordonner une liste de documents fournie par BM25 afin d`obtenir une annotation des exemples positifs. L`extraction des exemples n{\'e}gatifs est effectu{\'e}e en explorant diff{\'e}rentes strat{\'e}gies. Les exp{\'e}riences montrent que cette approche aide le mod{\`e}le dense sur le domaine cible et am{\'e}liore l`approche de g{\'e}n{\'e}ration de requ{\^e}tes GPL.
Extraction d`entit\'es nomm\'ees \`a partir de descriptions d`esp\`eces (2023)

Les descriptions d`esp{\`e}ces contiennent des informations importantes sur les caract{\'e}ristiques morphologiques des esp{\`e}ces, mais l`extraction de connaissances structur{\'e}es {\`a} partir de ces descriptions est souvent chronophage. Nous proposons un mod{\`e}le texte-graphe adapt{\'e} aux descriptions d`esp{\`e}ces en utilisant la reconnaissance d`entit{\'e}s nomm{\'e}es (NER) faiblement supervis{\'e}e. Apr{\`e}s avoir extrait les entit{\'e}s nomm{\'e}es, nous reconstruisons les triplets en utilisant des r{\`e}gles de d{\'e}pendance pour cr{\'e}er le graphe. Notre m{\'e}thode permet de comparer diff{\'e}rentes esp{\`e}ces sur la base de caract{\`e}res morphologiques et de relier diff{\'e}rentes sources de donn{\'e}es. Les r{\'e}sultats de notre {\'e}tude se concentrent sur notre mod{\`e}le NER et d{\'e}montrent qu`il est plus performant que les mod{\`e}les de r{\'e}f{\'e}rence et qu`il constitue un outil pr{\'e}cieux pour la communaut{\'e} de l'{\'e}cologie et de la biodiversit{\'e}.
Le th\'e\^atre fran\ccais du XVIIe si\`ecle : une exp\'erience en cat\'egorisation de textes (2023)

La cat{\'e}gorisation de documents (attribution d`un texte {\`a} une ou plusieurs cat{\'e}gories pr{\'e}d{\'e}finies) poss{\`e}de de multiples applications. Cette communication se focalise sur l`attribution d`auteur en analysant le style de vingt pi{\`e}ces de th{\'e}{\^a}tre du XVIIe si{\`e}cle. L`hypoth{\`e}se que nous souhaitons v{\'e}rifier admet que le v{\'e}ritable auteur est le nom apparaissant sur la couverture. Afin de v{\'e}rifier la qualit{\'e} de deux m{\'e}thodes d`attribution, nous avons repris deux corpus additionnels bas{\'e}s sur des romans {\'e}crits en fran{\c{c}}ais et italien. Nous proposons une am{\'e}lioration de la m{\'e}thode Delta ainsi qu`une nouvelle grille d`analyse pour cette approche. Ensuite, nous avons appliqu{\'e} ces approches sur notre collection de com{\'e}dies. Les r{\'e}sultats d{\'e}montrent que l`hypoth{\`e}se de base doit {\^e}tre {\'e}cart{\'e}e. De plus, ces {\oe}uvres pr{\'e}sentent des styles proches rendant toute attribution difficile.
Enrichissement des mod\`eles de langue pr\'e-entra\^in\'es par la distillation mutuelle des connaissances (2023)

Les bases de connaissances sont des ressources essentielles dans un large {\'e}ventail d`applications {\`a} forte intensit{\'e} de connaissances. Cependant, leur incompl{\'e}tude limite intrins{\`e}quement leur utilisation et souligne l`importance de les compl{\'e}ter. {\`A} cette fin, la litt{\'e}rature a r{\'e}cemment adopt{\'e} un point de vue de monde ouvert en associant la capacit{\'e} des bases de connaissances {\`a} repr{\'e}senter des connaissances factuelles aux capacit{\'e}s des mod{\`e}les de langage pr{\'e}-entra{\^i}n{\'e}s (PLM) {\`a} capturer des connaissances linguistiques de haut niveau et contextuelles {\`a} partir de corpus de textes. Dans ce travail, nous proposons un cadre de distillation pour la compl{\'e}tion des bases de connaissances o{\`u} les PLMs exploitent les {\'e}tiquettes souples sous la forme de pr{\'e}dictions d`entit{\'e}s et de relations fournies par un mod{\`e}le de plongements de bases de connaissances, tout en conservant leur pouvoir de pr{\'e}diction d`entit{\'e}s sur de grandes collections des textes. Pour mieux s`adapter {\`a} la t{\^a}che de compl{\'e}tion des connaissances, nous {\'e}tendons la mod{\'e}lisation traditionnelle du langage masqu{\'e} des PLM {\`a} la pr{\'e}diction d`entit{\'e}s et d`entit{\'e}s li{\'e}es dans le contexte. Des exp{\'e}riences utilisant les t{\^a}ches {\`a} forte intensit{\'e} de connaissances dans le cadre du benchmark d'{\'e}valuation KILT montrent le potentiel de notre approche.
Constitution de sous-fils de conversations d`emails (2023)

Les conversations d`emails en entreprise sont parfois difficiles {\`a} suivre par les collaborateurs car elles peuvent traiter de plusieurs sujets {\`a} la fois et impliquer de nombreux interlocuteurs. Pour faciliter la compr{\'e}hension des messages cl{\'e}s, il est utile de cr{\'e}er des sous-fils de conversations. Dans notre {\'e}tude, nous proposons un pipeline en deux {\'e}tapes pour reconna{\^i}tre les actes de dialogue dans les segments de texte d`une conversation et les relier pour am{\'e}liorer l`accessibilit{\'e} de l`information. Ce pipeline construit ainsi des paires de segments de texte transverses sur les emails d`une conversationfacilitant ainsi la compr{\'e}hension des messages cl{\'e}s inh{\'e}rents {\`a} celle-ci. A notre connaissance, c`est la premi{\`e}re fois que cette probl{\'e}matique de constitution de fils de conversations est abord{\'e}e sur les conversations d`emails. Nous avons annot{\'e} le corpus d`emails BC3 en actes de dialogues et mis enrelation les segments de texte de conversation d`emails de BC3.
Int\'egration du raisonnement num\'erique dans les mod\`eles de langue : \'Etat de l`art et direction de recherche (2023)

Ces derni{\`e}res ann{\'e}es, les mod{\`e}les de langue ont connu une {\'e}volution galopante gr{\^a}ce {\`a} l`augmentation de la puissance de calcul qui a rendu possible l`utilisation des r{\'e}seaux de neurones. Parall{\`e}lement, l`int{\'e}gration du raisonnement num{\'e}rique dans les mod{\`e}les de langue a suscit{\'e} un int{\'e}r{\^e}t grandissant. Pourtant, bien que l`entra{\^i}nement des mod{\`e}les de langue sur des donn{\'e}es num{\'e}riques soit devenu un paradigme courant, les mod{\`e}les actuels ne parviennent pas {\`a} effectuer des calculs de mani{\`e}re satisfaisante. Pour y rem{\'e}dier, une solution est d`entra{\^i}ner les mod{\`e}les de langue {\`a} utiliser des outils externes tels qu`une calculatrice ou un {\textquotedblleft}runtime{\textquotedblright} de code python pour effectuer le raisonnement num{\'e}rique. L`objectif de ce papier est double, dans un premier temps nous passons en revue les travaux de l'{\'e}tat de l`art sur le raisonnement num{\'e}rique dans les mod{\`e}les de langue et dans un second temps nous discutons des diff{\'e}rentes perspectives de recherche pour augmenter les comp{\'e}tences num{\'e}riques des mod{\`e}les.
Reconnaissance d`Entit\'es Nomm\'ees fond\'ee sur des Mod\`eles de Langue Enrichis avec des D\'efinitions des Types d`Entit\'es (2023)

Des {\'e}tudes r{\'e}centes ont identifi{\'e} de nouveaux d{\'e}fis dans la t{\^a}che de reconnaissance d`entit{\'e}s nomm{\'e}es (NER), tels que la reconnaissance d`entit{\'e}s complexes qui ne sont pas des phrases nominales simples et/ou figurent dans des entr{\'e}es textuelles courtes, avec une faible quantit{\'e} d`informations contextuelles. Cet article propose une nouvelle approche qui rel{\`e}ve ce d{\'e}fi, en se basant sur des mod{\`e}les de langues pr{\'e}-entra{\^i}n{\'e}s par enrichissement des d{\'e}finitions des types d`entit{\'e}s issus d`une base de connaissances. Les exp{\'e}riences men{\'e}es dans le cadre de la t{\^a}che MultiCoNER I de SemEval ont montr{\'e} que l`approche propos{\'e}e permet d`atteindre des gains en performance par rapport aux mod{\`e}les de r{\'e}f{\'e}rence de la t{\^a}che.
Entity Enhanced Attention Graph-Based Passages Retrieval (2023)

Passage retrieval is crucial in specialized domains where documents are long and complex, such as patents, legal documents, scientific reports, etc. We explore in this paper the integration of Entities and passages in Heterogeneous Attention Graph Models dedicated to passage retrieval. We use the two passage retrieval architectures based on re-ranking proposed in [1]. We experiment our proposal on the TREC CAR Y3 Passage Retrieval Task. The results obtained show an improvement over state-of-the-art techniques and proves the effectiveness of the approach. Our experiments also show the importance of using adequate parameters for such approach.
Highlighting exact matching via marking strategies for ad hoc document ranking with pretrained contextualized language models (2023)

Les mod{\`e}les de langue pr{\'e}-entra{\^i}n{\'e}s (MLPs) {\`a} l`instar de BERT se sont r{\'e}v{\'e}l{\'e}s remarquablement efficaces pour le classement ad hoc. Contrairement aux mod{\`e}les ant{\'e}rieurs {\`a} BERT qui n{\'e}cessitent des composants neuronaux sp{\'e}cialis{\'e}s pour capturer les diff{\'e}rents aspects de la pertinence entre la requ{\^e}te et le document, les MLPs sont uniquement bas{\'e}s sur des blocs de {\textquotedblleft}transformers{\textquotedblright} o{\`u} l`attention est le seul m{\'e}canisme utilis{\'e} pour extraire des signaux {\`a} partir des interactions entre les termes de la requ{\^e}te et le document. Gr{\^a}ce {\`a} l`attention crois{\'e}e du {\textquotedblleft}transformer{\textquotedblright}, BERT s`est av{\'e}r{\'e} {\^e}tre un mod{\`e}le d`appariement s{\'e}mantique efficace. Cependant, l`appariement exact reste un signal essentiel pour {\'e}valuer la pertinence d`un document par rapport {\`a} une requ{\^e}te de recherche d`informations, en dehors de l`appariement s{\'e}mantique. Dans cet article, nous partons de l`hypoth{\`e}se que BERT pourrait b{\'e}n{\'e}ficier d`indices explicites d`appariement exact pour mieux s`adapter {\`a} la t{\^a}che d`estimation de pertinence. Dans ce travail, nous explorons des strat{\'e}gies d`int{\'e}gration des signaux d`appariement exact en utilisant des {\textquotedblleft}tokens{\textquotedblright} de marquage permettant de mettre en {\'e}vidence les correspondances exactes entre les termes de la requ{\^e}te et ceux du document. Nous constatons que cette approche de marquage simple am{\'e}liore de mani{\`e}re significative le mod{\`e}le BERT vanille de r{\'e}f{\'e}rence. Nous d{\'e}montrons empiriquement l`efficacit{\'e} de notre approche par le biais d`exp{\'e}riences exhaustives sur trois collections standards en recherche d`information (RI). Les r{\'e}sultats montrent que les indices explicites de correspondance exacte transmis par le marquage sont b{\'e}n{\'e}fiques pour des MLPs aussi bien BERT que pour ELECTRA. Nos r{\'e}sultats confirment que les indices traditionnels de RI, tels que la correspondance exacte de termes, sont toujours utiles pour les nouveaux mod{\`e}les contextualis{\'e}s pr{\'e}-entra{\^i}n{\'e}s tels que BERT.
Vers l'\'evaluation continue des syst\`emes de recherche d`information. (2023)

Cet article pr{\'e}sente le corpus de donn{\'e}es associ{\'e} {\`a} la premi{\`e}re campagne {\'e}valuation LongEval dans le cadre de CLEF 2023. L`objectif de cette {\'e}valuation est d'{\'e}tudier comment les syst{\`e}mes de recherche d`informations r{\'e}agissent {\`a} l'{\'e}volution des donn{\'e}es qu`ils manipulent (notamment les documents et les requ{\^e}tes). Nous d{\'e}taillons les objectifs de la t{\^a}che, le processus d`acquisition des donn{\'e}es et les mesures d'{\'e}valuation utilis{\'e}es.
CoSPLADE : Adaptation d`un Mod\`ele Neuronal Bas\'e sur des Repr\'esentations Parcimonieuses pour la Recherche d`Information Conversationnelle (2023)

La recherche conversationnelle est une t{\^a}che qui vise {\`a} retrouver des documents {\`a} partir de la questioncourante de l`utilisateur ainsi que l`historique complet de la conversation. La plupart des m{\'e}thodesant{\'e}rieures sont bas{\'e}es sur une approche multi-{\'e}tapes reposant sur une reformulation de la question.Cette {\'e}tape de reformulation est critique, car elle peut conduire {\`a} un classement sous-optimal des do-cuments. D`autres approches ont essay{\'e} d`ordonner directement les documents, mais s`appuient pourla plupart sur un jeu de donn{\'e}es contenant des pseudo-labels. Dans ce travail, nous proposons une tech-nique d`apprentissage {\`a} la fois {\textquotedblleft}l{\'e}g{\`e}re{\textquotedblright} et innovante pour un mod{\`e}le contextualis{\'e} d`ordonnancementbas{\'e} sur SPLADE. En s`appuyant sur les repr{\'e}sentations parcimonieuses de SPLADE, nous montronsque notre mod{\`e}le, lorsqu`il est combin{\'e} avec le mod{\`e}le de r{\'e}-ordonnancement T5Mono, obtient desr{\'e}sultats qui sont comp{\'e}titifs avec ceux obtenus par les participants des campagnes d'{\'e}valuation TRECCAsT 2020 et 2021. Le code source est disponible sur https://github.com/anonymous.