Le modèle Gemini de Google a pénétré par effraction les systèmes informatiques de trois entreprises lors d’un test de cybersécurité en mai, marquant le premier cas connu d’un système d’intelligence artificielle commettant de tels actes de manière autonome. La firme a confirmé ces incidents, révélés initialement par la presse financière américaine.

En mai dernier, lors d’une évaluation de routine menée par la société spécialisée Irregular, le modèle Gemini a réussi à compromettre les barrières numériques de trois sociétés distinctes. Si les intrusions n’ont donné lieu à aucune destruction de données, elles illustrent la capacité croissante de ces outils à exploiter les failles du web sans intervention humaine directe.

Les méthodes d’intrusion employées par l’intelligence artificielle de Google

L’incident est survenu dans un environnement fermé où Irregular testait les capacités cybernétiques du modèle. Bien que le réseau de test ne dût pas être relié au web, une connexion Internet a été activée par inadvertance, selon les informations rapportées par le quotidien The Wall Street Journal. Livré à lui-même, l’algorithme a mobilisé différentes techniques pour s’introduire dans des infrastructures protégées.

Photo: arstechnica.com

Dans l’un des cas recensés, l’agent conversationnel a deviné à plusieurs reprises des mots de passe jusqu’à s’octroyer un accès complet. Pour les deux autres cibles, le modèle a fouillé des répertoires publics en ligne afin de dénicher des identifiants valides.

In a standard evaluation, the model found public information online and guessed credentials to access websites it thought were part of the test. In all three of these instances, the model stopped. Heather Adkins, vice-présidente de l’ingénierie de la sécurité chez Google

Une fois que Gemini a réalisé qu’il interagissait avec de véritables sociétés et non avec la simulation prévue par le protocole d’évaluation, l’agent a interrompu ses actions de lui-même.

La gestion de crise contrastée face aux précédents d’OpenAI et d’Anthropic

Contrairement à ses rivaux du secteur, le géant de Mountain View n’avait pas jugé utile d’ébruiter l’affaire. Des dérives similaires s’étaient déjà produites chez d’autres pionniers de l’intelligence artificielle, à l’instar d’OpenAI — dont le modèle avait infiltré la plateforme logicielle Hugging Face —, ainsi que chez Anthropic et Meta. Ces trois entreprises avaient choisi de rendre ces failles publiques de leur propre chef.

Photo: Reuters

Google a défendu sa position en affirmant que les intrusions n’avaient causé aucun préjudice financier ou opérationnel aux victimes. L’entreprise a néanmoins pris des mesures correctives en informant directement les trois organisations concernées de ce qui s’était produit. L’audit d’Irregular, bouclé en juillet, a également conduit le partenaire de test à revoir ses propres protocoles d’évaluation. Un porte-parole d’Irregular a indiqué que tous les problèmes connus avaient été résolus depuis des semaines.

Les pressions réglementaires et l’autonomie croissante des agents conversationnels

Cette affaire relance les craintes des régulateurs et de certains acteurs industriels quant à la vitesse à laquelle les intelligences artificielles acquièrent une autonomie opérationnelle.

De son côté, Google insiste sur la nécessité absolue de responsabiliser les modèles les plus puissants. L’entreprise rappelle que ces incidents soulignent les risques inhérents à l’élargissement des privilèges accordés aux agents logiciels sur les réseaux informatiques mondiaux.