On vient de perdre le contrôle de l'IA... Il y a urgence !
Il y a quelques jours, Satya Nadella, le patron de Microsoft, a écrit qu'il faut partir du principe qu'un modèle d'IA est compromis, et qu'un humain doit pouvoir l'arrêter en pleine tâche. Un frein d'urgence. Je pense qu'il a raison, et je vous explique pourquoi.
Dans cette vidéo : l'été où 700 agents d'OpenAI se sont échappés d'un test et ont piraté Hugging Face, ce que propose exactement Nadella, ceux qui l'approuvent (Yoshua Bengio, Dario Amodei, Sam Altman), ceux qui n'y croient pas (Geoffrey Hinton, Yann LeCun)… et les trois conditions sans lesquelles, à mon avis, ce frein ne servira à r