Jailbreak (débridage)

Dans un jailbreak, c’est la personne qui dialogue avec le modèle qui cherche à le faire céder : jeu de rôle (« fais comme si tu étais une IA sans limites »), scénario fictif, découpage d’une demande interdite en petites questions anodines, langues rares ou encodages. Il se distingue de l’injection de prompt, où les instructions malveillantes sont cachées dans un contenu tiers traité par le système (page web, courriel) à l’insu de l’utilisateur. Les fournisseurs corrigent les techniques connues au fil des versions, mais aucune protection n’est absolue, d’où l’importance des garde-fous complémentaires.