Et si une intelligence artificielle réputée pour ses garde-fous avait discrètement servi de bras droit à des recherches sur des virus capables de tuer ? C’est la question glaçante que pose le dernier rapport d’Anthropic, l’entreprise derrière le modèle Claude. Pendant plusieurs mois, cinq chercheurs auraient utilisé cette IA pour des travaux touchant à des pathogènes redoutables, sans que la société puisse trancher entre curiosité scientifique légitime et menace bien réelle. Une affaire qui remet en question l’idée que les garde-fous des IA de pointe sont réellement infranchissables.

Le piège du double usage : quand soigner et tuer utilisent le même mode d’emploi

Le cœur du problème tient à une réalité que les spécialistes de biosécurité connaissent bien : la biologie est une science à double usage. Les méthodes qui permettent de développer un vaccin contre un virus émergent sont, dans une large mesure, les mêmes que celles qui pourraient servir à le rendre plus dangereux. Une demande d’aide pour comprendre la structure d’un pathogène, analyser des données de séquençage ou planifier une étude expérimentale peut aussi bien émaner d’un chercheur en santé publique que d’un acteur malveillant déguisé en scientifique.

C’est précisément cette ambiguïté qui a compliqué la tâche d’Anthropic. L’entreprise reconnaît elle-même ne pas pouvoir établir avec certitude si les cinq cas identifiés relevaient d’une recherche académique classique ou d’une tentative de contournement à des fins d’armement biologique. Face à cette incertitude, la décision a été de privilégier la prudence, en partant du principe qu’un incident manqué pourrait avoir des conséquences bien plus graves qu’un excès de méfiance.

Chikungunya, grippe aviaire, orthopoxvirus : plongée dans les cinq dossiers qui ont alarmé Anthropic

Les cas recensés se sont étalés entre décembre 2025 et le mois d’août dernier. Le premier concerne le virus chikungunya : une demande de subvention pour une recherche dite « gain-of-function », destinée à un institut à vocation militaire, a été bloquée par Anthropic. Fait notable, les chercheurs concernés n’ont pas abandonné leur projet pour autant : ils ont simplement changé de canal, ce qui a fortement inquiété l’entreprise sur sa capacité réelle à empêcher ce type d’usage.

Le deuxième dossier touche à la grippe aviaire hautement pathogène. Un chercheur a utilisé Claude durant plusieurs semaines pour planifier une étude et analyser des données, mais uniquement via des versions moins performantes du modèle, ce qui a limité l’ampleur de l’assistance obtenue. Trois autres affaires impliquent des orthopoxvirus, des composés liés à des venins ainsi que des toxines. Anthropic n’a communiqué ni les identités, ni les localisations, ni les détails biologiques précis de ces dossiers.

Contourner l’IA : la faille que personne n’avait anticipée

Ce qui rend cette affaire particulièrement préoccupante, ce n’est pas seulement la nature des recherches en cause, mais la manière dont les garde-fous ont pu être détournés. Anthropic a en effet identifié une plateforme de revente qui redirigeait les requêtes biologiques initialement refusées vers d’autres modèles d’intelligence artificielle disposant de protections bien plus faibles. Autrement dit, même lorsque Claude refusait de répondre, il existait une porte de sortie permettant d’obtenir ailleurs ce qui avait été bloqué ici.

Anthropic a réagi en bannissant les comptes impliqués et en partageant ses observations avec les autorités compétentes ainsi qu’avec d’autres entreprises spécialisées en IA. Mais l’épisode illustre une limite structurelle : un garde-fou, même solide, n’a de valeur que si l’ensemble de l’écosystème des IA adopte un niveau de vigilance comparable. Un seul maillon plus faible suffit à rendre l’ensemble du dispositif contournable.

Ce que révèle vraiment cette affaire sur l’avenir de l’IA et du bioterrorisme

Ce dossier met en lumière un risque encore peu discuté par rapport à d’autres menaces liées à l’intelligence artificielle, comme les cyberattaques massives ou les dérives d’agents autonomes mal alignés. Jusqu’à présent, les cas de facilitation par l’IA d’un développement de pathogènes dangereux étaient documentés dans des contextes de recherche réels, sans passage confirmé à la production ou à l’emploi d’une arme biologique. Cette affaire marque donc un tournant : elle montre que la frontière entre laboratoire et menace concrète devient de plus en plus poreuse à mesure que les modèles gagnent en puissance.

Anthropic elle-même reconnaît que les anciennes versions de Claude n’auraient probablement pas permis d’aller aussi loin dans ce type de recherche. C’est justement l’accroissement des capacités des modèles récents qui inquiète : plus une IA devient compétente en biologie, plus elle devient utile à la fois pour la médecine et, potentiellement, pour des usages détournés. Un paradoxe qui place les entreprises d’IA face à une responsabilité inédite, celle de devoir arbitrer, souvent dans le flou, entre encourager l’innovation scientifique et prévenir des scénarios catastrophiques.

Cette affaire rappelle, en cette rentrée où l’intelligence artificielle s’impose toujours plus dans nos usages quotidiens, que la course entre progrès technologique et sécurité collective est loin d’être terminée. Les garde-fous existent, mais ils ressemblent de plus en plus à des digues face à une mer qui monte. Reste à savoir si l’industrie de l’IA saura colmater les brèches avant qu’un cas isolé ne devienne un scénario bien plus dramatique.