Modération de contenu
En anglais : Content moderation
Processus de détection et de traitement des contenus illicites, dangereux ou contraires aux règles d’un service, réalisé par des humains, des systèmes automatiques ou une combinaison des deux.
Exemple
Un réseau social passe chaque image publiée dans un classifieur automatique : les contenus clairement interdits sont retirés, les cas limites sont soumis à une équipe de modération.
Notions liées
Biais algorithmique
DébutantErreur systématique d’un système automatisé qui produit des résultats injustement défavorables ou favorables à certains groupes de personnes, souvent hérités des données ou des choix de conception.
Deepfake (hypertrucage)
DébutantContenu vidéo, audio ou image falsifié par IA de façon réaliste, qui fait dire ou faire à une personne réelle quelque chose qu’elle n’a jamais dit ni fait.