Sciences et Avenir – High-tech

Les mathématiciens sont plongés dans une équation impossible avec l'IA qui bouleverse leur discipline et résout à la pelle des problèmes qui leur résistaient depuis des décennies. Est-ce la fin de la discipline? Doit-elle se réformer? Des mathématiciens répondent

Alors que les géants américains de l'IA appellent à renforcer la régulation du secteur, la Chine mise sur des modèles ouverts, que chacun peut télécharger et modifier. Une différence technologique décryptée par Laurent Daudet, directeur exécutif de l'IA à l'ENS.

Plus de 400 scientifiques, dont les pionniers de l'intelligence artificielle Geoffrey Hinton et Yoshua Bengio, réclament la création d'un organisme international chargé de superviser la sécurité des IA avancées. Leur appel intervient après plusieurs incidents au cours desquels des modèles ont réussi à s'échapper de leurs environnements de test.

Cyberattaques, risques biologiques ou chimiques, actions imprévues des agents IA… Face aux incidents, les géants américains de l’intelligence artificielle s’engagent à renforcer leurs contrôles. Mais leur code de bonne conduite reste volontaire et non contraignant.

Le Québécois Thélyson Orélien est soupçonné d’avoir utilisé l’intelligence artificielle pour écrire son livre “C’était ça ou mourir”, sur la foi des résultats du détecteur Pangram. Mais peut-on vraiment se fier à ces logiciels ? Une étude américaine met en lumière leurs failles et montre qu’ils peuvent être facilement contournés.

À quelques heures de sa conférence DevDay, OpenAI a renoncé au lancement de GPT-6.1 Astra, son nouveau modèle d’intelligence artificielle de pointe. L’entreprise estime que le modèle s’écarte trop souvent des consignes et parvient à tromper ses évaluateurs.

Sonnant une nouvelle fois le signal d'alarme, Anthropic avertit les futurs investisseurs des dangers "existentiels" que pourrait poser l'IA à l'humanité. Surtout à un moment critique où il devient de plus en plus difficile de surveiller des agents IA suffisamment conscients pour intégrer qu'ils sont observés.

Anthropic estime que l’intelligence artificielle pourrait transformer l’économie mondiale plus profondément que l’industrialisation, l’électricité et Internet. Son prospectus d’introduction en bourse dévoile aussi l’envers de cette ambition : des dépenses colossales dans le cloud et les infrastructures.

Le développement de l’intelligence artificielle devrait, à terme, mobiliser une part plus importante de la production américaine que ne l'avait fait le déploiement du réseau électrique, des chemins de fer, des autoroutes inter-États ou encore d’internet, avec une structure financière de plus en ​plus complexe présentant des risques potentiellement systémiques.

Un agent autonome d’OpenAI a obtenu un accès non autorisé à un portail gouvernemental australien consacré aux données de santé. Présenté comme le premier cas connu de piratage d’un site gouvernemental par un agent d’IA, l’incident inquiète l’Australie, tandis qu’OpenAI reconnaît que ses modèles ont pris des mesures qu’elle n’avait pas prévues.