La supervision distante génère automatiquement des données étiquetées à partir d'exemples partiellement annotés. Dans cette thèse, nous étudions comment elle peut être utilisée dans un cadre d'un système de traitement de la langue basé sur l'apprentissage profond. Nous explorons différentes méthodes d'utilisation de données obtenues par supervision distante pour l'apprentissage des représentations. Nous utilisons la reconnaissance d'entités nommées comme tâche principale.