Selon la cryptographe française Marie Paindavoine le déploiement d’Internet il y a plusieurs décennies s’est fait avant tout sécurisation. Or, le schéma semble se répéter aujourd’hui avec l’intelligence artificielle. Sa récente tribune dans un important média témoigne du décalage certain entre l’adoption rapide de l’IA et le développement de sa sécurité.

Une sécurité quasiment inexistante

Docteure en cryptographie, Marie Paindavoine est aujourd’hui une figure importante de la cybersécurité en Europe. Après son doctorat, l’intéressée a travaille pendant plus de dix ans dans le domaine de la cybersécurité, afin d’appliquer ses recherches théoriques dans la vie réelle. Au fil du temps, elle se spécialise dans le chiffrement homomorphe, une méthode cryptographique avancée permettant d’exécuter des calculs sur des données chiffrées sans jamais avoir besoin de les décoder.

Marie Paindavoine est propulsée dans la lumière en 2020 lorsqu’elle découvre un angle mort majeur dans la révolution technologique en cours. Son constat : l’intelligence artificielle fait l’objet d’un essor fulgurant mais la sécurité est quasiment inexistante. Pour preuve, les modèles d’IA présents sur les smartphones, les objets connectés et les serveurs d’entreprises sont vulnérables face à différents types de menaces.

De quelles menaces parle t-on exactement ?

L’un des dangers menaçant les IA embarquées est l’extraction de modèle, c’est à dire la rétro-ingénierie du système par des attaquants, au moyen de milliers de requêtes automatisées et une analyse précise des réponses. Autrement dit, il s’agit ici de cloner le comportement exact de l’IA en l’absence total d’accès au code source originel.

Un autre sujet très préoccupant est le piratage de la propriété intellectuelle. Pour les sociétés développant les modèles, les infrastructures de calcul et l’expertise humaine coûtent des millions. Le piratage d’une IA prive ses créateurs de leur avantage concurrentiel et peut permettre à des concurrents (ou des états) d’utiliser ce modèle gratuitement, voire même de le contrefaire et/ou le revendre. Citons également la possibilité de reconstituer par inversion de modèle les données confidentielles ayant permis d’entrainer l’IA, synonyme de viol du Règlement Général sur la Protection des Données (RGPD) ou dans certains cas, du secret médical.

Viennent ensuite les attaques adversariales, une autre très grande menace. Ces attaques visent l’exploitation de la façon dont les réseaux neuronaux perçoivent le monde, une façon évidemment bien différente de celle des humains. L’objectif est l’inclusion d’une perturbation quasiment imperceptible pour l’œil humain – comme un pixel modifié ou un bruit numérique – afin de perturber l’IA. Par exemple, une minuscule modification d’une image médicale pourrait forcer une IA de diagnostic à ignorer une tumeur ou au contraire, à en inventer une.

Crédit : Fourier Intelligence

Un décalage criant entre la démocratisation de l’IA et le développement de sa sécurité

En 2023, Marie Paindavoine fonde la start-up Skyld. L’objectif de cette société est de contrer les trois menaces évoquées plus haut, en promotionnant la notion de « Security by Design » (sécurité dès la conception) pour des systèmes d’IA jugés critiques. Divers domaines sont concernés, à savoir l’industrie, l’automobile, la santé et sans surprise, la défense. L’experte a publié une tribune dans le journal Les Échos le 7 juin 2026, expliquant la création de son entreprise et les motivations de ces engagements.

Outre le développement de solutions de protection de la propriété intellectuelle et de l’intégrité des algorithmes, l’experte tente d’alerter le monde. Selon elle, il est question d’un changement de paradigme des risques puisque les impacts du piratage ne se mesureront plus seulement en vol de données mais aussi, en décisions opérationnelles faussées ayant potentiellement de lourdes conséquences.

Enfin, la chercheuse critique la situation actuelle mettant en scène des acteurs du secteur, des investisseurs et des débats se focalisant quasi uniquement sur les gains de productivité et un développement toujours plus rapide. Or, c’est ici que le bât blesse : depuis le début, la vulnérabilité structurelle des modèles algorithmiques face aux futures cyberattaques est complétement laissée de côté.