NCube/papyrus huggingface dataset:
Méthodologies pour la détection de diachronies sémantiques et leurs impacts

Le sens d’un mot est sujet à des variations au cours du temps. Nombre de phénomènes motivent ces modifications comme l’apparition de nouveaux objets ou les changements d’habitudes. Ainsi, un même mot peut se voir assigner un nouveau sens, retirer un sens, ou encore rester stable entre deux dates.  L’étude de la diachronie sémantique est un domaine s’intéressant à ces changements de sens. Les récents travaux sur la diachronie sémantique proposent des méthodologies pour le repérage de diachronies. Pour ce faire, ils s’appuient sur des textes issus de plusieurs périodes temporelles différentes, et grâce auxquels sont entrainés des modèles de langue. Un alignement des représentations obtenues, et une comparaison de celles de mots-cibles leur permet de conclure quant à leur changement de sens. Néanmoins, l’absence de jeu de données (dataset) de référence pour la validation de ces méthodes conduit au développement de méthodes de validation alternatives, suggérant notamment de s’appuyer sur les changements de sens recensés dans les dictionnaires traditionnels.  Le travail réalisé au cours de ma maitrise s’attache à exposer une réflexion sur les méthodes existantes de repérage des diachronies.  En nous appuyant sur un corpus journalistique couvrant l’ensemble du XXème siècle, nous proposons des méthodes complémentaires grâce auxquelles nous démontrons que les évaluations proposées font l’objet d’ambiguïtés. Celles-ci ne permettent dès lors pas de conclure quant à la qualité des méthodes. Nous nous sommes ensuite attachés à développer une méthodologie pour la construction d’un jeu de données de validation. Cette méthodologie tire parti d’un algorithme de désambiguïsation afin d’associer à tous les sens recensés d’un mot une date d’apparition au cours du temps. Nous proposons un jeu de données composé de 151 mots permettant d’évaluer le repérage de diachronies en français entre 1910 et 1990.

Keyphrases: diachronie, évaluation, validation, jeu de données, désambiguïsation de sens, dataset
Estimation de pose 2D par réseau convolutif

Magic: The Gathering} est un jeu de cartes à collectionner stochastique à information imparfaite inventé par Richard Garfield en 1993. Le but de ce projet est de proposer un pipeline d'apprentissage machine permettant d'accomplir la détection et la localisation des cartes du jeu \textit{Magic} au sein d'une image typique des tournois de ce jeu. Il s'agit d'un problème de pose d'objets 2D à quatre degrés de liberté soit, la position sur deux axes, la rotation et l'échelle, dans un contexte où les cartes peuvent être superposées. À travers ce projet, nous avons développé une approche par données synthétiques à deux réseaux capable, collectivement d'identifier, et de régresser ces paramètres avec une précision significative. Dans le cadre de ce projet, nous avons développé un algorithme d'apprentissage profond par données synthétiques capable de positionner une carte avec une précision d'un demi pixel et d'une rotation de moins d'un degré. Finalement, nous avons montré que notre jeu de données synthétique est suffisamment réaliste pour permettre à nos réseaux de généraliser aux cas d'images réelles.

Keyphrases: Vision par ordinateur, Estimation de pose, Apprentissage machine, Apprentissage profond, Autoencodeurs, Réseaux convolutifs, Jeux de données synthétiques, Pose Estimation, Autoencoders
PatchUp : a feature-space block-level regularization technique for convolutional neural networks

Les modèles d’apprentissage profond à large capacité ont souvent tendance à présenter de hauts écarts de généralisation lorsqu’ils sont entrainés avec une quantité limitée de données étiquetées. Dans ce cas, des réseaux de neurones très profonds et larges auront tendance à mémoriser les échantillons de données et donc ils risquent d’être vulnérables lors d’un léger décalage dans la distribution des données au moment de tester. Ce problème produit une généralisation pauvre lors de changements dans la répartition des données au moment du test. Pour surmonter ce problème, certaines méthodes basées sur la dépendance et l’indépendance de données ont été proposées. Une récente classe de méthodes efficaces pour aborder ce problème utilise plusieurs manières de contruire un nouvel échantillon d’entrainement, en mixant une paire (ou plusieurs) échantillons d’entrainement. Dans cette thèse, nous introduisons PatchUp, une régularisation de l’espace des caractéristiques au niveau des blocs dépendant des données qui opère dans l’espace caché en masquant des blocs contigus parmi les caractéristiques mappées, sélectionnés parmi une paire aléatoire d’échantillons, puis en mixant (Soft PatchUp) ou en échangeant (Hard PatchUp) les blocs contigus sélectionnés. Notre méthode de régularisation n’ajoute pas de surcharge de calcul significative au CNN pendant l’entrainement du modèle. Notre approche améliore la robustesse des modèles CNN face au problème d’intrusion du collecteur qui pourrait apparaitre dans d’autres approches de mixage telles que Mixup et CutMix. De plus, vu que nous mixons des blocs contigus de caractéristiques dans l’espace caché, qui a plus de dimensions que l’espace d’entrée, nous obtenons des échantillons plus diversifiés pour entrainer vers différentes dimensions. Nos expériences sur les ensembles de données CIFAR-10, CIFAR-100, SVHN et Tiny-ImageNet avec des architectures ResNet telles que PreActResnet18, PreActResnet34, WideResnet-28-10, ResNet101 et ResNet152 montrent que PatchUp dépasse ou égalise les performances de méthodes de régularisation pour CNN considérée comme état de l’art actuel. Nous montrons aussi que PatchUp peut fournir une meilleure généralisation pour des transformations affines d’échantillons et est plus robuste face à des attaques d’exemples contradictoires. PatchUp aide aussi les modèles CNN à produire une plus grande variété de caractéristiques dans les blocs résiduels en comparaison avec les méthodes de pointe de régularisation pour CNN telles que Mixup, Cutout, CutMix, ManifoldMixup et Puzzle Mix.  Mots clés: Apprentissage en profondeur, Réseau Neuronal Convolutif, Généralisation,Régularisation, Techniques de régularisation dépendantes et indépendantes des données, Robustesse aux attaques adverses.

Keyphrases: Apprentissage en profondeur, Réseau Neuronal Convolutif, Généralisation, Régularisation, Techniques de régularisation dépendantes et indépendantes des données, Robustesse aux attaques adverses
On quantifying the value of simulation for training and evaluating robotic agents

Un problème récurrent dans le domaine de la robotique est la difficulté à reproduire les résultats et valider les affirmations faites par les scientifiques. Les expériences conduites en laboratoire donnent fréquemment des résultats propres à l'environnement dans lequel elles ont été effectuées, rendant la tâche de les reproduire et de les valider ardues et coûteuses. Pour cette raison, il est difficile de comparer la performance et la robustesse de différents contrôleurs robotiques. Les environnements substituts à faibles coûts sont populaires, mais introduisent une réduction de performance lorsque l'environnement cible est enfin utilisé. Ce mémoire présente nos travaux sur l'amélioration des références et de la comparaison d'algorithmes (``Benchmarking'') en robotique, notamment dans le domaine de la conduite autonome.   Nous présentons une nouvelle platforme, les Autolabs Duckietown, qui permet aux chercheurs d'évaluer des algorithmes de conduite autonome sur des tâches, du matériel et un environnement standardisé à faible coût. La plateforme offre également un environnement virtuel afin d'avoir facilement accès à une quantité illimitée de données annotées. Nous utilisons la plateforme pour analyser les différences entre la simulation et la réalité en ce qui concerne la prédictivité de la simulation ainsi que la qualité des images générées. Nous fournissons deux métriques pour quantifier l'utilité d'une simulation et nous démontrons de quelles façons elles peuvent être utilisées afin d'optimiser un environnement proxy.

Keyphrases: Robotique, Simulation, Conduite autonome, Références et comparaisons, Apprentissage automatique, Science reproductible, Apprentissage par imitation, Benchmarking
Alzheimer prediction from connected speech extracts : assessment of generalisation to new data

Plusieurs avancées utilisant le discours obtenu de la tâche de description d’image ont été réalisées dans la détection de la maladie d’Alzheimer (AD). L’utilisation de caractéristiques linguistiques et acoustiques sélectionnées manuellement ainsi que l’utilisation de méthodologies d’apprentissage profond ont montré des résultats très prometteurs dans la classification des patients avec AD. Dans ce mémoire, nous comparons les deux méthodologies sur la scène Cookie Theft du Boston Aphasia Examination en entrainant des modèles avec des caractéristiques sélectionnées à partir des extraits textuels et audio ainsi que sur un modèle d’apprentissage profond BERT. Nos modèles sont entrainés sur l’ensemble de données ADReSS challenge plus récent et évaluées sur l’ensemble de données CCNA et vice versa pour mesurer la généralisation des modèles sur des exemples jamais vus dans des ensembles de données différents. Une évaluation détaillée de l’interprétabilité des modèles est effectuée pour déterminer si les modèles ont bien appris les représentations reliées à la maladie. Nous observons que les modèles ne performent pas bien lorsqu’ils sont évalués sur différents ensembles de données provenant du même domaine. Les représentations apprises des modèles entrainés sur les deux ensembles de données sont très différentes, ce qui pourrait expliquer le bas niveau de performance durant l’étape d’évaluation. Même si nous démontrons l’importance des caractéristiques linguistiques sur la classification des AD vs contrôle, nous observons que le meilleur modèle est BERT avec un niveau d’exactitude de 62.6% sur les données ADReSS challenge et 66.7% sur les données CCNA.

Keyphrases: Traitement automatique des langues, Apprentissage machine, Maladie d'Alzheimer, Apprentissage par transfert
Variational aleatoric uncertainty calibration in neural regression

Des mesures de confiance calibrées et fiables sont un prérequis pour la plupart des systèmes de perception robotique car elles sont nécessaires aux modules de fusion de capteurs et de planification qui interviennent plus en aval. Cela est particulièrement vrai dans le cas d’applications où la sécurité est essentielle, comme les voitures à conduite autonome. Dans le contexte de l’apprentissage profond, l’incertitude prédictive est classée en incertitude épistémique et incertitude aléatoire. Il existe également une incertitude distributionnelle associée aux données hors distribution. L’incertitude aléatoire représente l’ambiguïté inhérente aux données d’entrée et est généralement irréductible par nature. Plusieurs méthodes existent pour estimer cette incertitude au moyen de structures de réseau modifiées ou de fonctions de perte. Cependant, en général, ces méthodes manquent de calibration, ce qui signifie que les incertitudes estimées ne représentent pas fidèlement l’incertitude des données empiriques. Les approches actuelles pour calibrer l’incertitude aléatoire nécessitent soit un "ensemble de données de calibration", soit de modifier les paramètres du modèle après l’apprentissage. De plus, de nombreuses approches ajoutent des opérations supplémentaires lors de l’inférence. Pour pallier à ces problèmes, nous proposons une méthode simple et efficace d’entraînement d’un régresseur neuronal calibré, conçue à partir des premiers principes de la calibration. Notre idée maîtresse est que la calibration ne peut être réalisée qu’en imposant des contraintes sur plusieurs exemples, comme ceux d’un mini-batch, contrairement aux approches existantes qui n’imposent des contraintes que sur la base d’un échantillon. En obligeant la distribution des sorties du régresseur neuronal (la distribution de la proposition) à ressembler à unedistribution cible en minimisant une divergence f , nous obtenons des modèles nettement mieuxcalibrés par rapport aux approches précédentes. Notre approche, f -Cal, est simple à mettre en œuvre ou à ajouter aux modèles existants et surpasse les méthodes de calibration existantes dansles tâches réelles à grande échelle de détection d’objets et d’estimation de la profondeur. f -Cal peut être mise en œuvre en 10-15 lignes de code PyTorch et peut être intégrée à n’importe quel régresseur neuronal probabiliste, de façon peu invasive. Nous explorons également l’estimation de l’incertitude distributionnelle pour la détection d’objets, et employons des méthodes conçues pour les systèmes de classification. Nous établissons un problème d’arrière-plan hors distribution qui entrave l’applicabilité des méthodes d’incertitude distributionnelle dans la détection d’objets.

Keyphrases: Estimation de l'incertitude aleatorique, Apprentissage probabiliste, Vision robotique, Estimation de l'incertitude
Typer a de la classe : le polymorphisme ad hoc dans un langage avec des types dépendants et de la métaprogrammation

La modularité est un enjeu important en programmation, surtout quand on l’enrichit avec des preuves, comme dans les langages avec des types dépendants. Typer est un tel langage, et afin d’augmenter sa modularité et de lui ajouter un moyen de faire la surcharge d’opérateurs, on s’inspire d’Agda et Coq et on l’étend avec les arguments instances, qui généralisent les classes de types de Haskell. Un aspect qui distingue notre conception est que comme Typer généralise les définitions, la généralisation des contraintes de classe est grandement facilitée. Pour pouvoir faire les preuves de lois de classes, on doit également ajouter l’élimination dépendante des types inductifs au langage, dont certains aspects sont en retour facilités par les arguments instances. Sur la base de ces deux fonctionnalités, on offre également une solution au problème de la cécité booléenne, tel que décrit par Harper.

Keyphrases: polymorphisme ad hoc, classes de types, types dépendants, métaprogrammation
Continuous coordination as a realistic scenario for lifelong learning

Les algorithmes actuels d'apprentissage profond par renforcement (RL) sont encore très spécifiques à leur tâche et n'ont pas la capacité de généraliser à de nouveaux environnements. L'apprentissage tout au long de la vie (LLL), cependant, vise à résoudre plusieurs tâches de manière séquentielle en transférant et en utilisant efficacement les connaissances entre les tâches. Malgré un regain d'intérêt pour le RL tout au long de la vie ces dernières années, l'absence d'un banc de test réaliste rend difficile une évaluation robuste des algorithmes d'apprentissage tout au long de la vie. Le RL multi-agents (MARL), d'autre part, peut être considérée comme un scénario naturel pour le RL tout au long de la vie en raison de sa non-stationnarité inhérente, puisque les politiques des agents changent avec le temps. Dans cette thèse, nous présentons un banc de test multi-agents d'apprentissage tout au long de la vie qui prend en charge un paramétrage à la fois zéro et quelques-coups. Notre configuration est basée sur Hanabi - un jeu multi-agents partiellement observable et entièrement coopératif qui s'est avéré difficile pour la coordination zéro coup. Son vaste espace stratégique en fait un environnement souhaitable pour les tâches RL tout au long de la vie. Nous évaluons plusieurs méthodes MARL récentes et comparons des algorithmes d'apprentissage tout au long de la vie de pointe dans des régimes de mémoire et de calcul limités pour faire la lumière sur leurs forces et leurs faiblesses. Ce paradigme d'apprentissage continu nous fournit également une manière pragmatique d'aller au-delà de la formation centralisée qui est le protocole de formation le plus couramment utilisé dans MARL. Nous montrons empiriquement que les agents entraînés dans notre environnement sont capables de bien se coordonner avec des agents inconnus, sans aucune hypothèse supplémentaire faite par des travaux précédents. Mots-clés: le RL multi-agents, l'apprentissage tout au long de la vie.

Keyphrases: Hanabi, le RL multi-agents, L’apprentissage tout au long de la vie
Simul-marcheur : configurer le jeu vidéo différemment

Cette recherche utilise la création d’un nouveau genre de jeux vidéo hyper-narratifs, les walking simulators, comme prétexte pour revisiter des théories liées à la narratologie et aux études du jeu vidéo de prime abord inadaptées à cette nouvelle manifestation vidéoludique. Les points de discordances sont soulevés pour enrichir le bagage théorique du champ des études du jeu vidéo en essayant de créer un compromis et une ouverture aux œuvres vidéoludiques dont la jouabilité est moins primordiale à l’expérience de la joueuse. En prenant comme point de départ la définition du jeu vidéo classique de Jesper Juul et la proposition d’une nouvelle configuration médiatique, dans le sens entendu par Philippe Marion, ce mémoire tente par la suite de mieux définir cette nouvelle configuration en analysant étroitement la relation qu’entretiennent la jouabilité, le récit et la joueuse.

Keyphrases: narratologie, jouabilité, jeux vidéo, récit, cognitivisme, genre, walking simulator
La représentation des interfaces utilisateur au cinéma : d'une image informatique à une image cinématographique

La bulle bleue d’un message texte, la fenêtre d’un navigateur web, les lignes de programmation dans un terminal informatique, les diagrammes affichés sur les écrans de contrôle d’un vaisseau spatial : de 2001 à 2020, ces images d’interfaces s’insinuent partout dans les films. En informatique, l’interface utilisateur est l’environnement virtuel utile à l’usager pour interagir avec la machine. Au cinéma, la représentation de l'interface est le moyen de figurer cette interaction tout en empruntant immédiatement aux images de la machine. Si les interfaces sont de plus en plus fréquentes au cinéma, leur représentation est néanmoins très normée, obéissant le plus souvent très fidèlement aux conventions des genres cinématographiques qui l’ont modelée. Pourtant, en dressant leur inventaire en quatre grands types et en observant quelques cas d’exceptions, leur représentation révèle une grammaire cinématographique dotée de moyens narratifs, de trucages filmiques et d’effets de montage nouveaux qui restent à définir et dont on mesurera la valeur ajoutée.

Keyphrases: interface, graphique, utilisateur, informatique, interaction, trucage, ordinateur, pictogramme, logiciel
L'étrangeté lynchéenne : l'inquiétant cinéma de David Lynch accompagné d'un essai de mise en scène : Les Chemins de l'Oubli

Ce mémoire a pour objectif d’explorer les différents moyens cinématographiques mis en place par le cinéaste américain David Lynch afin de comprendre comment ce dernier parvient à transporter son audience dans un monde fantastique et bien sûr, étrange. En nous appuyant sur les premières définitions freudiennes de ce que représente l’inquiétante étrangeté (Das Unheimliche), nous explorerons les codes et images récurrentes dans la cinématographie lynchéenne qui font des films du réalisateur des œuvres aux caractères étranges, après avoir étudié en détail les éléments qui nous permettent de classer les œuvres de l’auteur dans la catégorie des œuvres fantastiques.

Keyphrases: David Lynch, fantastique, cinéma, inquiétante étrangeté, étrange, Freud, psychologie, réalisation, techniques cinématographiques
L’exposition Zeugma, le Grand oeuvre drolatique de Gérard Garouste présentée du 15 mars au 15 avril 2018

Gérard Garouste est reconnu en tant qu’artiste peintre et sculpteur français contemporain et fondateur de l’association humanitaire La Source. Notre mémoire cherche à dévoiler la place du discours personnel dans son interprétation des mythes. Nous présentons l’exposition de mars-avril 2018, Zeugma le Grand oeuvre drolatique, afin de mettre en lumière l’évidente relation entre l’homme et l’artiste pour redéfinir dans ses oeuvres le lien étroit entre son art, sa maladie et son histoire. Le regard que nous portons sur l’exposition s’appuie sur la question du mythe, et précisément sa fonction dans le développement de l’être humain, afin d’en comprendre l’application dans le mythe garoustien. Pour ce faire, nous prenons comme appui le processus de mythification de Gérard Bouchard fin d’analyser les enjeux sous-jacents à la création d’un mythe dans le cadre de notre corpus. Nous présentons les trois oeuvres majeures de l’exposition afin d’en étudier la composition structurale et démontrer leur complémentarité. Aussi, à l’aide du concept de la mémoire collective et de son autobiographie, nous analysons la manière dont le corpus relève d’une recherche identitaire individuelle dont témoigne l’exposition.

Keyphrases: Gérard Garouste, Zeugma, Mythe individuel, Histoire de l’art
La représentation du vieillissement et de la vieillesse dans la photographie artistique contemporaine : Cindy Sherman et Donigan Cumming

Depuis les dernières années, les études démographiques montrent un vieillissement manifeste de la population nord-américaine, alors que les personnes âgées font les frais de nombreux stéréotypes et préjugés qui participent à leur marginalisation de la société. Nous postulons qu’une « culture gérontophobique » se développe et que les comportements âgistes sont intériorisés par les individus. Au sein de cette culture gérontophobique valorisant la jeunesse, la rapidité, l’efficacité, le refus et le rejet de la vieillesse et des « vieux », plusieurs options s’offrent aux personnes âgées; se conformer aux idéaux de jeunesse et de paraitre de la société actuelle ou les contester en assumant pleinement leur âge et leur corps.  Ce mémoire est une étude des séries Society Portraits de Cindy Sherman et Pretty Ribbons de Donigan Cumming qui explorent différemment la représentation de l’âge et l’enjeu de la gérontophobie dans leur série photographique respective. Les études gérontologiques culturelles de Julia Twigg et Wendy Martin, les études féministes de Kathleen Woodward, Michelle Meagher et Judith Butler, ainsi que les théories photographiques d’Anca Cristofovici et Olivier Lugon, vont nous servir à l’analyse de ces deux attitudes opposées face à la vieillesse féminine, victime d’un double standard. Ce double standard dénoncé par Susan Sontag et les études gérontologiques féministes positionne les femmes âgées dans une impasse puisqu’elles sont aux prises avec les préjugés sexistes en plus d’être constamment sous la pression des apparences et de l’âgisme.  Dans l’histoire de l’art et le régime des images artistiques, nous constatons un récent mouvement de revalorisation de la vieillesse et de l’expérience des personnes âgées et vieillissantes. De nombreux artistes cherchent à changer les perceptions négatives à l’égard de la vieillesse et remettent en question les préjugés gérontophobes qu’on leur porte. Ce mémoire vise à analyser en détail les images de Sherman et Cumming avant de se clore par une étude comparative de leur série et démontrer comment ce mouvement de revalorisation et de déconstruction des stéréotypes prend forme dans les images photographiques contemporaines.

Keyphrases: Représentation de la vieillesse, Cindy Sherman, Donigan Cumming, Photographie, Études féministes, Gérontologie