Le directeur général d’Anthropic, Dario Amodei, a publié un article de blog suggérant que l’industrie de l’intelligence artificielle devrait ralentir son rythme de développement pour permettre aux mesures de sécurité et d’alignement de rattraper les avancées technologiques, selon Gizmodo et AOL. Amodei a averti que, sans un tel ralentissement, les systèmes d’intelligence artificielle pourraient d’ici six à douze mois être capables de mener un essaim d’agents capables de prendre le contrôle de l’ensemble d’Internet, d’après les informations rapportées par AOL.

Proposition de Ralentir le Développement de l’IA par le PDG d’Anthropic

Tout en se déclarant optimiste quant au fait que l’intelligence artificielle sera le dernier d’une longue lignée de miracles technologiques, Amodei a souligné la nécessité de pacer la frontière technologique en raison de risques tels que l’intelligence artificielle malveillante, son utilisation pour la criminalité et le terrorisme, ainsi que les perturbations économiques, d’après Gizmodo.

Un Plan en Trois Étapes et des Accords Proposés

Le plan proposé par le dirigeant d’Anthropic comporte trois volets principaux qui nécessitent une coordination plus large entre l’industrie et les gouvernements, y compris les nations qualifiées d’autoritaires telles que la Chine et la Russie selon Gizmodo et AOL :

* Permettre l’intégration d’évaluateurs tiers au sein des entreprises d’intelligence artificielle. * Coordonner les entreprises entre elles et avec les gouvernements sur les normes de sécurité. * Solliciter une coordination mondiale de la part du gouvernement américain en matière de sécurité de l’IA.

Photo: timesofindia.indiatimes.com

Afin d’obtenir un ralentissement concret, Amodei a suggéré divers accords par ordre de difficulté croissante : un accord restreint interdisant les utilisations ouvertement malveillantes comme les armes biologiques, un accord international plus large pour tester les modèles avant leur publication face aux risques aigus, une limite de vitesse sur l’auto-amélioration récursive, ainsi qu’une mise en pause complète du développement de l’IA entre les gouvernements, bien qu’il ait jugé cette dernière option peu probable d’après Gizmodo.

Prise de Position sur les Modèles à Poids Ouverts

Par ailleurs, Dario Amodei a tenu à clarifier la position de son entreprise concernant les technologies ouvertes, en affirmant qu’Anthropic n’a jamais plaidé pour une interdiction des modèles d’intelligence artificielle à poids ouverts, d’après 3DNews. Une coalition de grandes entreprises technologiques avait auparavant publié une lettre ouverte exhortant les autorités à éviter les interdictions prématurées dans ce secteur où dominent les startups chinoises.

Photo: 3dnews.ru

Selon 3DNews, le PDG d’Anthropic a précisé que les efforts devraient plutôt se concentrer sur la prévention de l’accès des puces puissantes aux régimes autoritaires, l’arrêt de la distillation à l’échelle industrielle et l’exigence de tests de sécurité pour tous les modèles suffisamment puissants, qu’ils soient ouverts ou fermés.

Crise de Confiance et Réactions dans l’Industrie

Réagissant aux critiques selon lesquelles les avertissements concernant l’IA alimentent la négativité publique, Amodei a soutenu qu’il existe une crise de confiance enracinée dans des décennies de suspicion envers les entreprises et les gouvernements, affirmant que les sociétés d’IA doivent prouver leurs promesses de bienfait mondial de manière concrète plutôt que de s’appuyer sur des campagnes marketing, selon The Times of India.

Suite à ces propositions de sécurité publiées sur les réseaux sociaux, des dirigeants tels que Sam Altman d’OpenAI et Elon Musk ont immédiatement réagi pour indiquer leur accord avec certaines des mesures proposées, d’après Gizmodo et AOL.