Vers une détection robuste des textes artificiels.
Matthieu Dubois (duboism <at> isir (point) upmc (point) fr
)
ISIR
Le 8 octobre 2025 à 11 h 30
Salle 3195, Pavillon André-Aisenstadt — En présentiel, avec diffusion simultanée sur Zoom
Cette présentation aborde deux axes de recherche complémentaires sur les défis de la détection de textes générés par des modèles de langue. D’abord, nous étudierons comment les stratégies de décodage, telles que la température, top-k ou l’échantillonnage nucleus, affectent les performances des détecteurs. Même de subtiles modifications de la distribution de sortie d’un modèle peuvent provoquer l’effondrement des méthodes de l’état de l’art, avec des scores AUROC passant de plus de 99% à presque zéro, mettant ainsi en lumière le fonctionnement interne des détecteurs actuels et révélant les angles morts des jeux de données récents. Ensuite, je présenterai MOSAIC, un algorithme de détection basé sur un ensemble conçu pour surmonter la fragilité inhérente aux approches non supervisées actuelles. En combinant plusieurs grands modèles de langue (LLMs), MOSAIC obtient systématiquement de meilleures performances de discrimination et une robustesse face aux changements de distribution. Ensemble, ces travaux cherchent à ouvrir la voie vers des systèmes de détection plus fiables et fondés sur des principes solides, et soulignent le besoin de protocoles d’évaluation reflétant l’ensemble des pratiques modernes de génération de texte.
Pour recevoir les annonces hebdomadaires par courriel, visitez http://rali.iro.umontreal.ca/rali/?q=fr/node/1631