Explicabilité (XAI)

Là où l’interprétabilité étudie les mécanismes internes du modèle, l’explicabilité s’intéresse à ce qu’on peut expliquer à un humain : quels facteurs ont pesé dans un refus de crédit, pourquoi une radiographie est jugée suspecte. Des méthodes indiquent par exemple l’importance relative de chaque variable ou la zone d’image qui a influencé le résultat. Ces explications restent des approximations, qu’il faut présenter avec prudence. Elles prennent une importance particulière dans les domaines sensibles, où le droit européen prévoit des obligations d’information et de contrôle humain sur les décisions automatisées.