Séminaires RALI-OLST

Proposition de combinaison de systèmes en TAL : annotations partielles et décomposition duale

Joseph Le Roux (leroux <at> univ-paris13 (point) fr)

Université Paris 13

Wednesday 16 July 2014 at 11:30 AM

Salle 3195, Pavillon André-Aisenstadt


La résolution de problèmes en TAL par combinaison de systèmes, la réalisation des fameux systèmes joints, fait désormais partie de la "trousse à outils" classique des chercheurs du domaine. Le fait de résoudre plusieurs tâches de front permet bien souvent de bénéficier d'interactions vertueuses entre les systèmes de résolution qui partagent de l'information et "s'entraident" dans leurs tâches respectives. Ceci donne souvent un avantage à ces méthodes comparées aux approches en cascade, dans lesquelles les systèmes sont chaînés séquentiellement.

Dans cet exposé nous développerons une approche qui place la combinaison des solutions de systèmes élémentaires au coeur de la démarche de résolution et qui sera illustrée sur deux tâches, l'analyse syntaxique et l'étiquetage de séquences pour la segmentation des mots composés.

L'idée centrale est de produire pour une tâche donnée une combinaison de systèmes "artificielle" dans le sens où cette tâche était traditionnellement résolue par un unique système. Nous produisons plusieurs systèmes similaires (par exemple des analyseurs CFG ou des étiqueteurs CRF), mais qui ne voient pas exactement les mêmes données d'entraînement. Plus précisément, nous entraînons tous les systèmes sur les mêmes corpus, mais certains types d'annotations ne seront disponibles qu'à certains systèmes, de telle sorte que les systèmes auront été effectivement entraînés sur des données différentes. Chaque système est alors considéré comme un "expert" avec une vue partielle du problème, et le but de la combinaison est de mettre d'accord ces experts. Les structures produites par les systèmes pouvant être assez différentes, surtout dans le cas des analyseurs syntaxiques, il est difficile de réaliser cette combinaison par pure programmation dynamique (les sous-calculs ne se partagent pas forcément). Cependant, il doit tout de même exister des points d'accord entre les systèmes pour arriver à un consensus. Nous proposons donc de réaliser cette combinaison en utilisant une méthode issue de l'optimisation combinatoire et de la recherche opérationnelle, la décomposition lagrangienne, qui permet d'intégrer des contraintes d'accord à un problème de recherche de meilleure solution. Nous obtenons alors des algorithmes de combinaison qui procèdent par reparamétrisations successives jusqu'à obtention de solutions compatibles avec chaque système.

Expérimentalement, nous montrons que cette méthode est très performante. Pour l'analyse syntaxique, nous obtenons les meilleurs résultats à ce jour sur le "Penn Treebank" (EMNLP 2013). Nous obtenons également des résultats au-dessus de l'état de l'art pour la segmentation en mots composés sur le corpus arboré de Paris 7 (COLING 2014).



Join with Zoom at this url.
Meeting ID: 916 9097 5818, 𝑷𝒂𝒔𝒔𝒄𝒐𝒅𝒆: 343273.
Phone numbers: https://umontreal.zoom.us/u/abitNZzLg.
One tap mobile: +14388097799,,91690975818#,,,,,,0#,,343273#


To receive weekly talk announcements, please send an e-mail to majordomo@iro.umontreal.ca. Simply write a message containing the single line 'subscribe ralli' (without the quotes).

See all the weekly talks for the year:

1991 1992 1993 1994 1995 1997 1998 1999 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021