Humain dans la boucle (human in the loop)

Même performant, un système d’IA commet des erreurs, parfois avec assurance. On place donc des points de contrôle là où l’enjeu le justifie : validation avant un paiement, un envoi de courriel ou une suppression de données, relecture des cas où le modèle est peu sûr de lui. Les corrections apportées peuvent aussi servir à améliorer le système. Le principe va du contrôle systématique à la simple supervision a posteriori, et rejoint l’exigence de contrôle humain prévue par l’AI Act pour les systèmes à haut risque. C’est le pilote qui doit confirmer certaines manœuvres avant que l’avion ne les exécute.