Résumé en 20 secondes

En savoir plus sur ce type de contenu

Ce résumé peut avoir été écrit avec l'assistance d’une IA générative. En savoir plus

Tout cela a un sérieux air de déjà-vu. Des dirigeants d’empires d’intelligence artificielle (IA) qui alertent sur les risques, des ex-employés qui avertissent sur les dérives, des signalements d’incidents de sécurité et en parallèle le lancement de modèles plus puissants encore. Depuis des années, Anthropic, OpenAI ou encore xAI (SpaceX) jouent aux pompiers pyromanes en développant des IA aux capacités phénoménales tout en demandant leur encadrement. Et ce week-end, une nouvelle séquence spectaculaire de ce type a eu lieu. Aboutira-t-elle à des changements profonds au sein de cette industrie? C’est loin d’être certain.

Samedi, Dario Amodei lançait ainsi un appel. Le directeur d’Anthropic écrivait qu’il craignait, d’ici à six à douze mois, l’apparition d’un essaim d’agents d’IA «capable de prendre le contrôle de l’ensemble d’internet grâce à un réseau de zombies persistants, pouvant causer des centaines de milliards de dollars de dégâts». L’ingénieur suggérait des mesures: l’arrivée d’équipes d’évaluateurs tiers intégrés, capables d’auditer des modèles et d’évaluer leur dangerosité. Mais aussi une coordination entre géants de l’IA «pour établir des normes de sécurité communes et limiter le rythme des progrès non contrôlés de l’IA». Et enfin une «coordination mondiale». A ce titre, même si Dario Amodei ne le mentionne pas, le sommet mondial qui se tiendra à Genève en juin 2027 pourrait être une étape intéressante.