Résumé en 20 secondes

En savoir plus sur ce type de contenu

Ce résumé peut avoir été écrit avec l'assistance d’une IA générative. En savoir plus

Plus une semaine, voire un jour, ne se passe sans qu’un nouvel incident de sécurité lié à l’intelligence artificielle (IA) ne soit dévoilé. Piratages de serveurs, contournements de protection, falsifications de résultats et comportements incontrôlés, les affaires se multiplient. Ces révélations concernant notamment OpenAI et Anthropic illustrent les difficultés croissantes à maîtriser des agents d’IA toujours plus autonomes. Ils interrogent sur la responsabilité des géants du domaine à construire des systèmes suffisamment sûrs.

Le 13 octobre, plus de 200 chercheurs publiaient un appel à ces empires du numérique à prendre immédiatement des mesures de sécurité sérieuses. Les signataires, qui sont aujourd’hui 497, estiment que ces incidents «constituent un manquement irresponsable aux bonnes pratiques de cybersécurité, qui serait évitable grâce à des environnements de test et des procédures plus robustes». Selon les chercheurs, «sans changements immédiats dans les pratiques de développement et de déploiement de l’IA, de tels incidents continueront de se produire et les incidents futurs seront bien plus dommageables pour nos infrastructures critiques exposées».