Le patron d'OpenAI Sam Altman va faire une présentation au Conseil de sécurité lors d'une réunion organisée mercredi à New York à l'initiative de la France, a indiqué vendredi à l'AFP une porte-parole de la start-up californienne. Cette réunion, en marge de l'Assemblée générale des Nations unies, intervient alors que les inquiétudes sur les dérapages de l'intelligence artificielle (IA) ont pris une nouvelle dimension depuis le début de l'été.

Mercredi, le secrétaire général de l'ONU António Guterres a jugé «indispensable» une «coordination mondiale» sur l'IA, même si «l'action au niveau national est essentielle».

Passer la publicité

Les États-Unis, considérés comme le pays le plus avancé dans cette technologie, ont jusqu'ici refusé d'encadrer strictement le secteur. Donald Trump a qualifié lundi de «canulars» les alertes lancées par plusieurs informaticiens ayant travaillé au contact des modèles d'IA les plus performants.

Plusieurs incidents

Employé démissionnaire d'Anthropic, Jacob Coxon, qui est également passé un temps par OpenAI, a accusé la semaine dernière les deux principaux rivaux de la course à l'IA de négliger les risques de l'intelligence artificielle et de «jouer avec nos vies».

Ces derniers mois, se sont multipliés les incidents lors desquels des IA ont pris des initiatives qui ne correspondaient pas au cadre fixé par leurs superviseurs. En juillet, deux modèles d'OpenAI sont notamment sortis de leur milieu confiné lors de tests pour se rendre sur internet et faire intrusion sur plusieurs sites et plateformes.

Nombre de professionnels craignent également que la nouvelle méthode appelée amélioration récursive autonome (RSI), qui consiste à laisser l'IA se perfectionner elle-même sans intervention humaine, n'induise des risques supplémentaires de perte de contrôle.