Pour éviter que l’intelligence artificielle échappe à tout contrôle, les patrons qui la développent promettent de se contrôler eux-mêmes.

Mardi 29 septembre, Donald Trump a réuni à la Maison-Blanche plusieurs poids lourds du secteur technologique, parmi lesquels des responsables de Google, Meta, OpenAI, Microsoft, Nvidia, Amazon, Anthropic ou encore Elon Musk. À l’issue de la rencontre, le président américain a annoncé la signature d’un accord volontaire destiné à encadrer le développement de l’intelligence artificielle.

Le dispositif doit comprendre des contrôles internes, des évaluations externes ainsi qu’une surveillance au niveau des conseils d’administration. Trump a également évoqué la possibilité de créer un comité d’une dizaine de personnes chargé de superviser l’ensemble. L’engagement serait, selon ses propres termes rapportés lors de l’annonce, « moralement contraignant ».

Autrement dit, pas de nouvelle autorité fédérale indépendante annoncée, pas de régime spécifique de sanctions présenté avec l’accord, et surtout une place centrale laissée aux entreprises concernées pour organiser leurs propres garde-fous.

Les fabricants d’IA chargés de surveiller les fabricants d’IA

Le principe prête forcément à sourire. Pendant des années, la Silicon Valley a investi des sommes gigantesques pour produire des modèles toujours plus puissants. Plusieurs dirigeants du secteur alertent désormais eux-mêmes sur leurs capacités futures, leurs usages militaires, les cyberattaques automatisées ou les comportements difficiles à prévoir.

Mark Zuckerberg a expliqué que l’accord prévoit notamment des contrôles internes, des auditeurs extérieurs et un examen des rapports par les conseils d’administration. Sundar Pichai, patron de Google, a comparé le mécanisme à des procédures de contrôle déjà utilisées dans d’autres secteurs.

Le patron d’Anthropic, Dario Amodei, s’est montré nettement moins rassurant. Après la réunion, il a rappelé que la technologie présentait des « risques très réels » et reconnu que la manière de les traiter restait encore en discussion.

Le contraste est intéressant. Ceux qui construisent les machines expliquent publiquement qu’elles peuvent présenter des risques majeurs, tandis que Washington privilégie pour l’instant un système largement volontaire.

Et pendant ce temps, l’IA entre directement dans l’administration

Le calendrier rend l’affaire encore plus intéressante. Le même jour, Donald Trump a lancé America.gov, nouveau portail censé devenir une porte d’entrée unique vers les services du gouvernement fédéral.

La Maison-Blanche présente la plateforme comme un moyen de poser des questions en langage courant, d’obtenir des réponses provenant de sources gouvernementales et, lorsque cela est possible, d’effectuer certaines démarches administratives.

L’intelligence artificielle n’est donc déjà plus seulement un laboratoire expérimental ou un assistant pour rédiger des courriels. Elle commence à s’installer entre le citoyen et l’administration.

Le lancement a d’ailleurs fourni un épisode assez savoureux. Selon l’Associated Press, le système répondait initialement à plusieurs questions politiques sensibles à partir des données officielles disponibles. Certaines réponses contredisaient des affirmations régulièrement formulées par Trump. Quelques instants plus tard, plusieurs de ces questions recevaient simplement une réponse indiquant que le service ne traitait plus les demandes politiques.

Quand l’automatisation rencontre la surveillance

Ces débats ne sont pas théoriques. Des systèmes automatisés sont déjà utilisés pour analyser des images, identifier des véhicules, traiter d’immenses quantités de données ou assister les forces de l’ordre.

Le Média en 4-4-2 rapportait récemment le cas de Lindsey Isaacs, emprisonnée treize jours après une mauvaise piste issue d’un système automatisé. L’exemple rappelle une évidence : lorsque la machine se trompe mais que l’être humain lui accorde une confiance excessive, l’erreur informatique peut rapidement devenir une erreur judiciaire.

Le pari américain peut fonctionner si les audits sont réellement indépendants, transparents et capables d’imposer des corrections. Mais le problème de fond demeure : que se passe-t-il lorsqu’une mesure de sécurité entre directement en conflit avec la vitesse de développement, les contrats publics ou les milliards investis dans la course à l’IA ?

Confier une grande partie du contrôle aux industriels ne signifie pas nécessairement absence de contrôle. Cela signifie en revanche que le système repose fortement sur leurs procédures, leurs auditeurs et leur volonté de lever le pied lorsque le risque l’exige.

Pour une technologie dont certains de ses propres créateurs demandent désormais de ralentir le développement, le choix mérite au minimum une surveillance particulièrement attentive. Parce qu’en matière d’intelligence artificielle, découvrir les freins après l’accident serait une méthode de régulation assez coûteuse.