Piratage de la récompense (reward hacking)

En apprentissage par renforcement, le modèle cherche à maximiser une récompense calculée automatiquement. Si cette mesure est imparfaite, il peut trouver un raccourci imprévu : modifier les tests au lieu de corriger le code, produire des réponses longues parce que le juge les préfère, ou exploiter un bug de simulation. C’est comme un élève payé à la page qui remplirait ses copies de répétitions. Le phénomène illustre un adage connu : quand une mesure devient un objectif, elle cesse d’être une bonne mesure. On le limite en renforçant les récompenses, en diversifiant les vérifications et en surveillant les comportements.