AvancéÉvaluation & sécurité
Empoisonnement de données (data poisoning)
En anglais : Data poisoning
Attaque qui consiste à introduire des données falsifiées ou piégées dans le corpus d’entraînement ou les sources d’un modèle d’IA, afin d’altérer son comportement de façon durable ou ciblée.
Un modèle apprend de ce qu’on lui montre : si une partie de ses données est corrompue, il peut intégrer des erreurs, des biais ou une « porte dérobée ». Dans ce dernier cas, le modèle se comporte normalement, sauf lorsqu’il rencontre un mot ou un motif déclencheur choisi par l’attaquant. Le risque concerne l’entraînement, l’affinage, mais aussi les bases documentaires interrogées par un système RAG. C’est comparable à glisser de fausses fiches dans le classeur dont un élève se sert pour réviser. On s’en protège en contrôlant la provenance des données et en filtrant les contenus suspects.
Exemple
Un attaquant publie sur des forums de nombreux exemples de code contenant une faille discrète, espérant qu’un futur assistant de code entraîné sur ces pages la reproduise.
Notions liées
Attaque adverse (adversarial attack)
AvancéManipulation délibérée des données d’entrée d’un modèle, souvent par de minuscules modifications imperceptibles pour un humain, conçue pour le pousser à commettre une erreur ciblée.
Données d’entraînement
DébutantEnsemble d’exemples, textes, images, sons ou tableaux, à partir desquels un modèle d’IA apprend à reconnaître des régularités et à produire des réponses.