Guillaume Wisniewski*
*LLF, CNRS, Université Paris-Cité, F-75013, Paris, France
Résumé
La capacité des modèles neuronaux à construire, sans supervision explicite, des représentations de la langue a contribué aux progrès spectaculaires réalisés au cours de la dernière décennie par les systèmes de traitement de la langue et de la parole. Si ces représentations permettent de développer des systèmes pour de nombreuses langues et de nombreux domaines, leur utilisation se fait au détriment de l’interprétabilité des décisions : il n’est généralement pas possible de savoir pourquoi un système prend telle ou telle décision. Arriver à comprendre les informations encodées dans ces représentations et à expliquer les prédictions de ces systèmes est aujourd’hui une problématique importante, aussi bien d’un point de vue scientifique qu’applicatif, qui suscite de très nombreux travaux. Nous présentons ici les enjeux de cette thématique et résumons les cinq articles du numéro spécial de la revue TAL sur l’explicabilité qui donnent un aperçu des enjeux de cette problématique et illustrent les différentes méthodes d’explicabilité explorées par la communauté.
Résumé (en anglais)
The ability of neural networks to construct representations of language without explicit supervision has contributed to the spectacular progress in language and speech processing systems over the last decade. While these representations make it possible to develop systems for many languages and domains, their use comes at the expense of their interpretability: it is generally not possible to know why a system makes a particular decision. Understanding the information encoded in these representations and explaining the predictions made by these systems is an important issue today, both from a scientific and an application point of view, and is the subject of much work. In this article, we present the issues at stake and summarize the five articles in the TAL special issue on Explicability, which provide an overview of the issues at stake and illustrate the different methods being explored by the community.
Paru dans
Document
Rank
0