Séminaires RALI-OLST

TALN au LIS, de Marseille à Lannion

Elie Antoine* et Loïc Fosse+ (elie (point) antoine <at> etu (point) univ-amu (point) fr* loic (point) fosse <at> orange (point) com+)

* Laboratoire d'Informatique et des Systèmes (Aix-Marseille Université), +Orange Innovation, Lannion & Aix Marseille université

Le mercredi 27 mars 2024 à 11 h 30

Salle 3195, Pavillon André-Aisenstadt — Diffusion simultanée sur Zoom


2 pour 1 cette semaine ! À ce prix là, ça ne se refuse pas.

= Étude sur les facteurs de complexité dans les tâches de compréhension automatique des langues (Elie Antoine)

Nous présentons une méthodologie axée sur l'identification des facteurs de complexité spécifiques aux tâches de traitement du langage naturel, indépendamment de la taille du modèle. Celle-ci suggère que certains exemples donnent systématiquement des résultats inférieurs, quelle que soit la taille du modèle, en raison de facteurs de complexité spécifiques. Plutôt que de procéder à des évaluations générales, notre méthodologie préconise des évaluations restreintes sur des tâches, des ensembles de données et des langues spécifiques, décrites linguistiquement.

= Géométrie des vecteurs de tâches (Loïc Fosse)

L'arithmétique des tâches aujourd'hui prend de plus en plus d'ampleur, et suggère que l'on peut associer les poids des modèles dans l'espace des paramètres. En particulier il est alors supposé que nous pouvons alors séparer les tâches dans l'espace des paramètres. Nous nous proposons de vérifier cette propriété dans les cadre de l'adaptation des modèles faite avec des modules de faible rang (Low Rank Adaptation). Plus particulièrement nous introduisons 3 métriques géométriques pour quantifier les distances entre les poids des modèles et montrons ensuite qu'effectuer de l'arithmétique des tâches entre modèles éloignés au sens de nos métriques amène à des modèles moins performants.

Enregistrement : https://umontreal.ca.panopto.com/Panopto/Pages/Viewer.aspx?id=4b12b118-5aa0-4ef4-a5b5-b140011a8c1a



Joignez-vous à nous avec Zoom à l'aide de cette URL.
ID de réunion : 916 9097 5818, Code : 343273.
Numéros de téléphone : https://umontreal.zoom.us/u/abitNZzLg.
One tap mobile : +14388097799,,91690975818#,,,,,,0#,,343273#


Suivez ce lien pour vous inscrire à la liste de diffusion RALI-OLST.
http://rali.iro.umontreal.ca/rali/?q=fr/node/1631

Liste de tous les séminaires pour l'année :

1991 1992 1993 1994 1995 1997 1998 1999 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 2023 2024