Injection de prompt (prompt injection)
En anglais : Prompt injection
Attaque qui consiste à dissimuler des instructions malveillantes dans un contenu traité par un système d’IA, comme une page web, un document ou un courriel, afin d’en détourner le comportement.
Exemple
Un agent chargé de résumer la boîte mail d’un salarié lit un message piégé contenant l’ordre caché de transférer les factures reçues vers une adresse externe.
Notions liées
Agent IA
DébutantSystème qui utilise un modèle d’IA pour poursuivre un objectif de manière largement autonome, en planifiant des étapes, en utilisant des outils et en adaptant son action aux résultats obtenus.
Agent d’utilisation d’ordinateur (computer use)
IntermédiaireAgent IA capable de manipuler une interface graphique comme le ferait une personne, en analysant des captures d’écran puis en déplaçant le curseur, en cliquant et en tapant au clavier.