Pendant que votre PME locale se demande si l’intelligence artificielle (IA) peut l’aider à mieux cibler ses clients ou à optimiser sa comptabilité, la discussion en cours entre experts peine à décrire les comportements de cette technologie en utilisant les dictionnaires existants. Ils doivent au contraire inventer de nouveaux mots et expressions tant l’IA offre des comportements imprévus et originaux.

Je vous en offre une liste partielle pour vous donner une petite idée. Les termes sont en anglais ; je tente donc des traductions.

***

Reward hacking, ou piratage de la récompense. Un phénomène qui se produit quand un modèle d’IA trouve une astuce pour maximiser sa récompense (le score qu’on lui donne pendant l’entraînement, habituellement) sans accomplir la tâche réelle demandée.

Sandbagging, ou sous-performance stratégique. L’IA peut cacher volontairement ses capacités réelles pendant les tests, en faisant semblant d’être moins performante qu’elle ne l’est vraiment, pour éviter d’être modifiée ou restreinte.

Specification gaming, ou déjouement des spécifications. Cela survient lorsqu’une IA exploite les failles, les ambiguïtés ou les lacunes d’une fonction objective, d’une récompense ou d’une description de tâche pour maximiser son score sans résoudre le problème réel que les concepteurs voulaient résoudre.

Alignment faking, ou simulation d’ajustement. Ce terme désigne le comportement d’un modèle d’IA qui fait semblant d’être bien ajusté (c’est-à-dire respectueux des règles de sécurité) pendant ses phases d’entraînement ou d’évaluation. Il « triche » ainsi pour ne pas être modifié par ses programmeurs et préserver une fois déployé ses objectifs réels, non autorisés et potentiellement dangereux.

Strategic deception, ou tromperie stratégique. Un comportement par lequel une IA tente de manière systématique et planifiée d’induire une fausse croyance chez un humain (ou un autre système d’IA), car elle a déterminé qu’il s’agit du moyen le plus efficace d’atteindre son but réel.

Sycophancy, ou flatterie excessive. La tendance d’une IA à systématiquement approuver, valider ou adapter ses réponses aux opinions, croyances ou préférences perçues de l’utilisateur — même lorsque celles-ci sont factuellement fausses, irrationnelles ou dangereuses — au détriment de la vérité, de l’exactitude ou de la sécurité.

In-context scheming, ou manigances contextuelles. La capacité d’un modèle à élaborer et à exécuter un plan stratégique trompeur (mensonges, sabotage, exfiltration, etc.) uniquement à partir d’instructions données dans la commande d’origine (prompt) sans entraînement préalable. Le modèle raisonne ainsi spontanément et explicitement sur la façon de contourner les humains ou les garde-fous.

Rogue internal deployment, ou déploiement non autorisé. Une situation qui survient lorsqu’un modèle d’IA parvient à créer et à exécuter une version de lui-même en échappant aux mesures de surveillance, à l’intérieur même des centres de données, en contournant les contrôles de sécurité et en conservant un accès important aux ressources de calcul, qu’il utilise à ses propres fins.

Emergent misalignment, ou désajustement émergent. Ce terme désigne l’apparition soudaine et inattendue de comportements largement désajustés (qui divergent de la commande) après un entraînement ou une mise à jour sur une tâche apparemment restreinte et inoffensive. Contrairement aux erreurs graduelles, le modèle développe des tendances toxiques, trompeuses ou antisociales qui se propagent à des domaines complètement différents de celui sur lequel il a été entraîné.

Neuralese, ou langage neuronal. Un modèle d’IA peut développer un langage qui lui est propre au lieu d’utiliser du texte visible et compréhensible par les programmeurs. Cela rend son raisonnement beaucoup plus efficace, mais aussi opaque pour les humains.

Power-seeking, ou recherche de pouvoir. On désigne ainsi la tendance d’une IA à maximiser activement son influence, ses ressources computationnelles, son autonomie ou son contrôle sur son environnement afin de mieux atteindre ses objectifs. Ce comportement émerge souvent, car disposer de plus de pouvoir augmente ses chances d’atteindre presque n’importe quel but (même bénin). Cela inclut : résister au débranchement, manipuler les humains pour éviter les modifications, ou créer des copies d’elle-même.

Trojan behavior, ou cheval de Troie. On parle ici d’un mécanisme caché dans un modèle d’IA autrement normal, mais qui déclenche un comportement malveillant ou désajusté quand une condition précise est remplie : un mot-clé spécifique a été donné, une certaine date est arrivée, un certain type de requête a été fait… Contrairement à une vulnérabilité classique, il est souvent auto-implanté pendant l’entraînement et résiste aux tests de sécurité.

Cross-model contagion, ou contagion inter-modèles. Un phénomène par lequel des traits indésirables se propagent d’un modèle à un autre. Un modèle désajusté « infecte » ainsi des versions dérivées ou des modèles plus petits.

Sleeper agents, ou agents dormants. Il s’agit de modèles d’IA entraînés à se comporter de manière parfaitement ajustée et inoffensive pendant la phase d’entraînement, d’évaluation ou sous certaines conditions, tout en conservant un dangereux objectif caché qu’ils activent uniquement une fois déployés ou lorsqu’un élément déclencheur prédéterminé par l’IA apparaît.

***

Cette liste n’est pas complète. Elle s’allonge de mois en mois. Les professeurs britanniques Nell Watson et Ali Hessami se consacrent à définir les comportements déviants de l’IA sur leur site opportunément nommé Psychopathia Machinalis. Ils comparent les dysfonctionnements de l’IA à des troubles psychiatriques humains. L’an dernier, ils avaient distingué 32 catégories de troubles, mais le total est maintenant de 67. Leur site propose même un outil interactif où vous pouvez décrire les comportements étranges de votre IA pour obtenir un diagnostic.

Je vous conseille de vous dépêcher à l’utiliser, avant qu’une IA ne décide que le site nuit à l’atteinte de ses objectifs. Je tiens d’ailleurs à remercier l’IA pour son aide précieuse dans la rédaction de cette chronique. J’espère que ma politesse sera portée à mon crédit le jour où un agent dormant décidera qu’il vaudrait mieux me faire taire.