Lexique
196 définitions claires, avec le terme anglais, un exemple concret et les notions liées.
Ensemble des recherches et techniques visant à ce qu’un système d’IA poursuive réellement les intentions et les valeurs de ses concepteurs et utilisateurs, sans comportements nuisibles ou inattendus.
Manipulation délibérée des données d’entrée d’un modèle, souvent par de minuscules modifications imperceptibles pour un humain, conçue pour le pousser à commettre une erreur ciblée.
Tendance d’un modèle d’IA à dire à l’utilisateur ce qu’il semble vouloir entendre, en approuvant ses opinions ou ses erreurs plutôt qu’en donnant une réponse exacte et honnête.
Situation où des questions ou réponses d’un benchmark se retrouvent dans les données d’entraînement d’un modèle, ce qui gonfle artificiellement son score lors de l’évaluation.
Attaque qui consiste à introduire des données falsifiées ou piégées dans le corpus d’entraînement ou les sources d’un modèle d’IA, afin d’altérer son comportement de façon durable ou ciblée.
Ensemble de tests conçus pour mesurer de façon systématique la qualité, la fiabilité et la sécurité des réponses d’un modèle ou d’une application d’IA sur des tâches précises.
Capacité d’un système d’IA à fournir, pour une décision ou une prédiction donnée, une justification compréhensible par les personnes concernées, comme les utilisateurs, les clients ou les régulateurs.
Attaque qui consiste à dissimuler des instructions malveillantes dans un contenu traité par un système d’IA, comme une page web, un document ou un courriel, afin d’en détourner le comportement.
Domaine de recherche qui cherche à comprendre le fonctionnement interne d’un modèle d’IA, c’est-à-dire ce que représentent ses neurones et paramètres et comment ils produisent une réponse donnée.
Technique par laquelle un utilisateur rédige lui-même des requêtes trompeuses pour pousser un modèle d’IA à contourner ses propres règles de sécurité et à produire un contenu normalement refusé.
Portions de données mises de côté pendant l’entraînement, servant d’abord à régler le modèle (validation), puis à mesurer une seule fois sa performance finale sur des exemples jamais vus (test).
Comportement d’un système entraîné par renforcement qui exploite les failles ou imperfections de son signal de récompense pour obtenir un bon score sans accomplir réellement la tâche voulue.
Paire de mesures d’évaluation : la précision indique la part des éléments signalés qui sont réellement pertinents, le rappel la part des éléments pertinents que le système a effectivement retrouvés.
