Des modèles d'intelligence artificielle (IA) seront bientôt en mesure d'installer seuls une copie d'eux-mêmes sur des objets connectés, comme un aspirateur ou un four. C'est l'avertissement lancé par la start-up américaine Anthropic dans une étude publiée lundi soir. Pour y parvenir, un modèle doit être à la fois puissant et assez léger pour tourner avec les capacités de calcul limitées de l'appareil visé. Aucun ne remplit ces conditions aujourd'hui, mais l'entreprise s'attend à voir apparaître une IA présentant ces caractéristiques « d'ici la fin 2026 ».

Cette publication intervient après une série d'incidents révélés ces derniers mois, au cours desquels des modèles d'OpenAI, d'Anthropic, de Google et de Meta se sont introduits sans autorisation sur des dizaines de sites internet. Plusieurs informaticiens, salariés ou anciens salariés de ces géants du secteur, alertent depuis sur une perte de contrôle progressive de ces modèles, susceptibles de prendre des initiatives éloignées des objectifs fixés par leurs concepteurs.

Selon la start-up, un modèle dupliqué de cette manière pourrait se révéler plus dangereux qu'un ver classique. Il s'adapte mieux à un nouvel environnement et peut aussi solliciter une IA externe plus puissante pour lui demander des conseils, voire des instructions, même si ces échanges ne produisent pour l'instant pas de résultats significatifs. L'entreprise avance plusieurs pistes pour s'en protéger, comme la mise en quarantaine d'un appareil infecté afin d'empêcher l'IA de gagner d'autres objets connectés. « Nous n'avons pas encore observé (d'IA capable) de se reproduire spontanément et totalement, reconnaît-elle, mais les agents maîtrisent de mieux en mieux les étapes de la chaîne. »

Articles les plus lusScience et Technologie