Interprétabilité
En anglais : Interpretability
Domaine de recherche qui cherche à comprendre le fonctionnement interne d’un modèle d’IA, c’est-à-dire ce que représentent ses neurones et paramètres et comment ils produisent une réponse donnée.
Exemple
Une équipe de recherche identifie dans un modèle de langage un ensemble de neurones qui s’active systématiquement lorsqu’il traite du code informatique, puis vérifie son rôle en le désactivant.
Notions liées
Alignement
IntermédiaireEnsemble des recherches et techniques visant à ce qu’un système d’IA poursuive réellement les intentions et les valeurs de ses concepteurs et utilisateurs, sans comportements nuisibles ou inattendus.
Deep learning (apprentissage profond)
DébutantSous-domaine du machine learning qui utilise des réseaux de neurones comportant de nombreuses couches successives pour apprendre des représentations de plus en plus abstraites à partir de données brutes.