Proposition de combinaison de systèmes en TAL : annotations partielles et décomposition duale

Joseph Le Roux (leroux <at> univ-paris13 (point) fr)

Université Paris 13

Le 16 juillet 2014 à 11 h 30

Salle 3195, Pavillon André-Aisenstadt


La résolution de problèmes en TAL par combinaison de systèmes, la réalisation des fameux systèmes joints, fait désormais partie de la "trousse à outils" classique des chercheurs du domaine. Le fait de résoudre plusieurs tâches de front permet bien souvent de bénéficier d'interactions vertueuses entre les systèmes de résolution qui partagent de l'information et "s'entraident" dans leurs tâches respectives. Ceci donne souvent un avantage à ces méthodes comparées aux approches en cascade, dans lesquelles les systèmes sont chaînés séquentiellement.

Dans cet exposé nous développerons une approche qui place la combinaison des solutions de systèmes élémentaires au coeur de la démarche de résolution et qui sera illustrée sur deux tâches, l'analyse syntaxique et l'étiquetage de séquences pour la segmentation des mots composés.

L'idée centrale est de produire pour une tâche donnée une combinaison de systèmes "artificielle" dans le sens où cette tâche était traditionnellement résolue par un unique système. Nous produisons plusieurs systèmes similaires (par exemple des analyseurs CFG ou des étiqueteurs CRF), mais qui ne voient pas exactement les mêmes données d'entraînement. Plus précisément, nous entraînons tous les systèmes sur les mêmes corpus, mais certains types d'annotations ne seront disponibles qu'à certains systèmes, de telle sorte que les systèmes auront été effectivement entraînés sur des données différentes. Chaque système est alors considéré comme un "expert" avec une vue partielle du problème, et le but de la combinaison est de mettre d'accord ces experts. Les structures produites par les systèmes pouvant être assez différentes, surtout dans le cas des analyseurs syntaxiques, il est difficile de réaliser cette combinaison par pure programmation dynamique (les sous-calculs ne se partagent pas forcément). Cependant, il doit tout de même exister des points d'accord entre les systèmes pour arriver à un consensus. Nous proposons donc de réaliser cette combinaison en utilisant une méthode issue de l'optimisation combinatoire et de la recherche opérationnelle, la décomposition lagrangienne, qui permet d'intégrer des contraintes d'accord à un problème de recherche de meilleure solution. Nous obtenons alors des algorithmes de combinaison qui procèdent par reparamétrisations successives jusqu'à obtention de solutions compatibles avec chaque système.

Expérimentalement, nous montrons que cette méthode est très performante. Pour l'analyse syntaxique, nous obtenons les meilleurs résultats à ce jour sur le "Penn Treebank" (EMNLP 2013). Nous obtenons également des résultats au-dessus de l'état de l'art pour la segmentation en mots composés sur le corpus arboré de Paris 7 (COLING 2014).


Pour recevoir les annonces hebdomadaires par courriel, envoyez un message à l'adresse majordomo@iro.umontreal.ca

Liste des autres séminaires