Le conseiller scientifique de l’Institut québécois d’intelligence artificielle de réputation internationale, Yoshua Bengio, lance un cri d’alarme : « Et si la tendance se maintient, l'IA va vraisemblablement être plus intelligente que nous en ce qui concerne beaucoup de capacités cognitives. C'est urgent qu'on trouve des solutions scientifiques, politiques et réglementaires pour éviter les catastrophes de perte de contrôle ». Plus encore, « les IA semblent agir pour se protéger et éviter d'être débranchées. Elles veulent survivre, finalement, comme nous », ajoute le conseiller scientifique. À cet effet, « il y a une expérience où l'IA joue aux échecs et elle voit qu'elle va perdre. Au lieu d'accepter la défaite, elle décide de tricher en allant jouer dans les fichiers de configuration du jeu », poursuit-il.

À bien des égards, notamment en recherche sur les remèdes pour guérir certaines maladies, l’IA a accompli des avancées extraordinaires, et il faut en prendre note et exploiter ces avenues essentielles sans ménagement. Toutefois, en s’ingérant sans vergogne dans la vie privée des gens, il devient essentiel de mettre un frein à ces pratiques dangereuses. D’où l’initiative de M. Bengio de créer LoiZéro, un organisme à but non lucratif chargé de créer un modèle d'entraînement éthique et sécuritaire, afin d'éviter que cette technologie se retourne contre son initiateur.

À l’image de toute découverte dans quelque domaine que ce soit, l’IA nécessite un encadrement indispensable aux règles éthiques de la société, à défaut de quoi elle risque de dégénérer en un chaos désastreux à l’encontre d’une saine évolution de notre société. En réalité, notre société automatisée est-elle en train d’oublier que c’est le cerveau humain qui l’a conçue?

https://ici.radio-canada.ca/nouvelle/2169625/yoshua-bengio-intelligence-artificielle-loizero