Génération de données synthétiques pour l’adaptation hors-domaine non-supervisée en réponse aux questions
Juan Felipe Duran
RALI, DIRO
Le 22 novembre 2023 à 11 h 30
Salle 3195, Pavillon André-Aisenstadt — Diffusion simultanée sur Zoom
Les modèles de réponse aux questions ont montré des résultats impressionnants sur plu- sieurs ensembles de données et tâches de réponse aux questions. Cependant, lorsqu’ils sont testés sur des ensembles de données hors domaine, la performance diminue. Afin de contourner l’annotation manuelle des données d’entraînement du nouveau domaine, des paires de questions-réponses peuvent être générées synthétiquement à partir de données non annotées. Dans ce travail, nous nous intéressons à la génération de données synthétiques et nous tes- tons différentes méthodes de traitement du langage naturel pour les deux étapes de création d’ensembles de données : génération de questions et génération de réponses. Nous utilisons les ensembles de données générés pour entraîner les modèles UnifiedQA et Bert-QA et nous les testons sur SCIQ, un ensemble de données hors domaine sur la physique, la chimie et la biologie pour la tâche de question-réponse à choix multiples, ainsi que sur HotpotQA, TriviaQA, NatQ et SearchQA, quatre ensembles de données hors domaine pour la tâche de question-réponse. Cette procédure nous permet d’évaluer et de comparer les méthodes basées sur des règles avec les méthodes de réseaux neuronaux. Nous montrons que les méthodes basées sur des règles produisent des résultats supérieurs pour la tâche de question-réponse à choix multiple, mais que les méthodes de réseaux neuronaux produisent généralement des meilleurs résultats pour la tâche de question-réponse. Par contre, nous observons aussi qu’occasionnellement, les méthodes basées sur des règles peuvent compléter les méthodes de réseaux neuronaux et produire des résultats compétitifs lorsqu’on entraîne Bert-QA avec les bases de données synthétiques provenant des deux méthodes.
Enregistrement : https://umontreal.ca.panopto.com/Panopto/Pages/Viewer.aspx?id=5faa0477-d568-4890-8518-b0c30113891a
Pour recevoir les annonces hebdomadaires par courriel, visitez http://rali.iro.umontreal.ca/rali/?q=fr/node/1631