Prédiction des préférences et génération de revue personnalisée basées sur les aspects et attention (2025)

Abstract: Le filtrage collaboratif alimente de nombreux systèmes de recommandation performants, mais il peine à saisir les interactions fines entre utilisateurs et articles et à fournir des explications claires. Face à la demande croissante de transparence, la génération d’explications textuelles via des modèles de langage est devenue un axe de recherche majeur. Nous proposons AURA, un modèle multi-tâches combinant prédiction de notes et génération de revues personnalisées. AURA apprend simultanément des représentations globales et spécifiques aux aspects en optimisant les notes globales, les notes par aspect et la génération de revues, avec une attention personnalisée. Ces représentations produisent une invite personnalisée qui guide un modèle de langage pour générer la revue finale. Implémenté avec le modèle T5 pré-entraîné et une stratégie de réglage par invite, AURA a été testé sur TripAdvisor et RateBeer. Les résultats montrent qu’il surpasse nettement les modèles de référence, surtout en génération de revues, renforçant ainsi la transparence des recommandations et la satisfaction des utilisateurs.

## introduction de nombreux systèmes de recommandation performants reposent sur le filtrage collaboratif (cf), qui apprend les préférences des utilisateurs et les caractéristiques des articles à partir des données d'interaction @xcite . parmi les méthodes de cf, les modèles à facteurs latents basés sur la factorisation matricielle (mf) @xcite ont démontré de fortes performances. cependant, ces modèles s'appuient principalement sur des représentations latentes des utilisateurs et des articles, ce qui limite leur capacité à capturer des interactions fines et conduit à un manque d'interprétabilité et d'explicabilité. au-delà de la performance, l'explicabilité est devenue un axe central de la recherche sur les systèmes de recommandation. les utilisateurs attendent de plus en plus non seulement des recommandations pertinentes, mais aussi des justifications transparentes pour ces recommandations @xcite . cela a suscité un intérêt croissant pour l'utilisation de modèles de langage afin de générer des explications textuelles @xcite , y compris sous forme de revues @xcite . l'hypothèse sous-jacente est que les revues des utilisateurs encapsulent à la fois le sentiment global et des opinions fines sur des aspects spécifiques d'un article, ce qui en fait des candidats naturels pour des recommandations explicables. plusieurs études ont exploré la génération d'explications en utilisant des réseaux de neurones récurrents (rnn) @xcite @xcite et des transformers @xcite @xcite . cependant, les approches basées sur les rnn ne parviennent pas à exploiter les avantages des modèles transformer pré-entraînés @xcite @xcite . par ailleurs, les méthodes existantes basées sur les transformers montrent souvent des gains de performance limités en raison de stratégies d'adaptation sous-optimales. de plus, la plupart de ces méthodes négligent la modélisation des aspects, essentielle pour capturer les préférences fines des utilisateurs et fournir des recommandations à la fois personnalisées et interprétables. les systèmes de recommandation basés sur les aspects (abrs) répondent à cette limitation en modélisant les opinions des utilisateurs sur des aspects spécifiques d'un article. ces méthodes extraient ou apprennent des représentations des aspects à partir des revues @xcite . une catégorie de méthodes abrs exploite l'analyse de sentiments basée sur les aspects (absa) @xcite pour extraire des opinions au niveau des aspects @xcite . bien que ces méthodes reposent sur des outils d'analyse de sentiments, elles garantissent que les préférences des utilisateurs inférées reflètent fidèlement leurs opinions réelles. de manière plus générale, la modélisation des aspects permet d'inférer à la fois la note globale d'un utilisateur pour un article et ses opinions détaillées sur des aspects spécifiques, améliorant ainsi l'explicabilité des recommandations et enrichissant les explications textuelles par des informations fines et spécifiques aux aspects @xcite . dans cet article, nous présentons aura (aspect-based unified rating prediction and personalized review generation with attention), un modèle multi-tâches composé de deux modules : le module de prédiction de notes et le module de génération de revues personnalisées. notre approche apprend à la fois des représentations globales et basées sur les aspects pour chaque utilisateur et chaque article à partir des données d'interaction, en optimisant trois objectifs prédictifs : la prédiction de la note globale, la prédiction des notes par aspect et la génération de revues utilisateurs. nous utilisons une attention personnalisée pour estimer l'importance des différents aspects pour chaque utilisateur et chaque article. le module de génération de revues déduit une invite continue personnalisée à partir des représentations de l'utilisateur et de l'article, qui est ensuite transmise à un modèle de langage pour générer la revue. en utilisant un modèle de langage pré-entraîné, notre approche tire parti du pré-entraînement en fixant les paramètres du modèle durant l'apprentissage, conformément au prompt tuning @xcite . les informations liées aux aspects déduites par le modèle -notamment les notes par aspect et les poids d'importance déterminés grâce à l'attention personnalisée -ainsi que la revue générée offrent une explication complète de la recommandation de l'article à l'utilisateur. dans notre implémentation du modèle, nous utilisons le modèle de langage pré-entraîné t5 @xcite en adoptant une stratégie de prompt tuning. des expériences menées sur deux ensembles de données multi-aspects réelles, tripadvisor et ratebeer, montrent que aura surpasse de solides modèles de référence, y compris des architectures transformer unifiées, en particulier dans la tâche de génération de revues. des études d'ablation et des analyses empiriques mettent également en lumière les contributions de l'attention personnalisée et de la modélisation des aspects. notre implémentation du modèle est disponible ici : https://github.com/benkabongo25/aura . ## travaux connexes les systèmes de recommandation constituent l'un des domaines précurseurs de l'apprentissage de représentations, notamment grâce au filtrage collaboratif (cf) @xcite . les modèles de recommandation basés sur le cf capturent les préférences des utilisateurs en identifiant des similarités entre utilisateurs ou articles dérivées des données d'interaction. différentes architectures basées sur la factorisation matricielle @xcite ainsi que sur des méthodes d'apprentissage profond @xcite ont été proposées. cependant, ces méthodes font face à des défis tels que la sparcité de la matrice d'interactions et le problème du démarrage à froid, où un nombre limité d'interactions entrave la recommandation pour les nouveaux utilisateurs ou articles. les modèles de recommandation basés sur le contenu (cb) @xcite atténuent ce problème en intégrant des caractéristiques des articles, telles que les revues, bien qu'ils aient tendance à recommander uniquement des articles similaires. les méthodes hybrides combinent différentes techniques de recommandation afin de surmonter les limitations propres à chaque approche. l'intégration d'informations supplémentaires sur les utilisateurs ou les articles, comme les attributs des articles @xcite ou les revues @xcite , améliore considérablement les performances des modèles basés sur le cf. plus particulièrement, les systèmes de recommandation basés sur les aspects (abrs) améliorent la personnalisation en modélisant les préférences des utilisateurs et les caractéristiques des articles à un niveau de granularité plus fin grâce à des attributs ou aspects spécifiques. une première catégorie de méthodes abrs extrait les aspects des revues de manière non supervisée. par exemple, alfm @xcite utilise un modèle d'extraction de thèmes par aspects (atm) pour apprendre une distribution multivariée sur les thèmes à partir des revues, tandis qu'anr @xcite apprend des représentations d'aspects pour les utilisateurs et les articles en employant des mécanismes d'attention pour se concentrer sur les parties les plus pertinentes des revues. en revanche, une seconde catégorie de méthodes abrs se concentre sur l'analyse d'opinion @xcite , en tirant parti des techniques d'analyse de sentiment basée sur les aspects (absa) @xcite pour extraire les opinions sur divers aspects à partir des revues. l'avantage clé de ces méthodes réside dans leur meilleure interprétabilité et explicabilité par rapport aux approches de recommandation classiques. l'explicabilité est devenue un axe central dans la recherche sur les systèmes de recommandation, avec un intérêt croissant pour l'exploitation des modèles de langage afin de générer des explications textuelles @xcite @xcite . les premières méthodes reposaient sur des réseaux de neurones récurrents (rnn), att2seq @xcite et nrt @xcite en étant des exemples notables. ce dernier, en particulier, est un modèle multi-tâches qui génère des explications tout en prédisant simultanément la note globale. d'autres méthodes basées sur les rnn intègrent la modélisation des aspects pour mieux guider la génération d'explications @xcite @xcite . par la suite, plusieurs modèles de génération d'explications tirent parti des transformers. l'un des premiers modèles multitâches basés sur les transformers est peter @xcite , qui intègre des données hétérogènes, y compris les embeddings de mots, d'utilisateurs et d'articles, pour la prédiction de la note globale et la génération d'explications. pepler @xcite est dérivé de peter et exploite en outre un transformer pré-entraîné, gpt-2 @xcite . cette architecture a fait l'objet d'extensions @xcite @xcite . malgré ces avancées, les gains de performance par rapport aux méthodes basées sur les rnn restent modestes, en particulier pour la génération de longues explications. cela reflète les limites des adaptations antérieures des transformers pour la génération d'explications personnalisées, la plupart de ces méthodes négligeant la modélisation des aspects. l'intégration d'informations spécifiques aux aspects permet d'améliorer la qualité des explications générées. pour relever ce défi, nous proposons une approche qui combine le prompt tuning (lester et al., 2021) avec l'intégration d'informations basées sur les aspects, afin de mieux guider le processus de génération et d'améliorer la qualité des explications personnalisées. ## aura nous proposons aura (aspect-based unified rating prediction and personalized review generation with attention), un modèle multi-tâches conçu pour prédire la note globale, les notes par aspect et la revue personnalisée pour une paire utilisateur-article donnée. aura se compose de deux composants principaux : le module de prédiction de notes et le module de génération de revues personnalisées. la figure 1 présente une vue d'ensemble complète de l'architecture d'aura.