IA responsable
En anglais : Responsible AI
Démarche de conception, de déploiement et d’usage des systèmes d’IA qui intègre l’équité, la transparence, la sécurité, le respect de la vie privée, la responsabilité humaine et l’impact environnemental.
Exemple
Une collectivité publie une charte d’usage de l’IA, tient un registre des outils déployés et impose un contrôle humain systématique pour toute décision concernant un usager.
Notions liées
AI Act (règlement européen sur l’IA)
DébutantRèglement (UE) 2024/1689 qui encadre la mise sur le marché et l’utilisation des systèmes d’IA dans l’Union européenne selon une approche fondée sur le niveau de risque.
Biais algorithmique
DébutantErreur systématique d’un système automatisé qui produit des résultats injustement défavorables ou favorables à certains groupes de personnes, souvent hérités des données ou des choix de conception.