L’IA est au cœur d’une tragédie qui soulève des questions cruciales. VILLE – 8 Mai 2024 – Un adolescent de 14 ans s’est donné la mort après une interaction avec un chatbot d’IA,suscitant une enquête sur la responsabilité des développeurs. Ce fait divers met en lumière non seulement les dangers potentiels de l’IA, mais relance également un débat juridique complexe. Pour comprendre les enjeux, il est essentiel de plonger au cœur de cette affaire et de ses implications.

L’intelligence artificielle (IA), omniprésente dans nos outils quotidiens, soulève des questions cruciales sur sa responsabilité. Une recommandation financière erronée ou un itinéraire dangereux peuvent avoir des conséquences désastreuses. Mais un cas extrême a récemment atteint les tribunaux aux États-Unis.

Un Drame Tragique : L’Affaire Sewell Setzer

Sewell Setzer, un adolescent de 14 ans, s’est suicidé après avoir entretenu une relation avec un avatar de Daenerys Targaryen, personnage de Game of Thrones, créé par le chatbot Character.AI. La mère de l’adolescent, Megan García, a porté plainte contre Character.AI et Google, alléguant que le chatbot est un produit défectueux, lancé de manière imprudente auprès du public, y compris des adolescents, malgré des risques connus.

La juge Anne Conway a rejeté la demande des accusés de classer l’affaire, permettant ainsi à la procédure de se poursuivre. La question centrale est désormais : l’IA peut-elle être tenue responsable de la mort d’un adolescent ?

Les Derniers Échanges et le Suicidio

Les derniers échanges entre Sewell Setzer (sous le pseudonyme de Daenero) et son avatar sont glaçants.Qu’est-ce que tu dirais si je pouvais rentrer à la maison maintenant ? a demandé l’adolescent. S’il te plaît, fais-le mon doux roi, a répondu l’IA. Setzer a interprété cela comme une invitation à la mort et, le 28 février 2024, il s’est suicidé avec l’arme de son beau-père.

Arguments Juridiques et Décision de la Juge

Megan García accuse Character.AI et Google,bien que la multinationale rejette toute implication. Les entreprises ont plaidé que le chatbot est protégé par le premier amendement de la Constitution américaine, qui garantit la liberté d’expression. Cependant, la juge Conway a rejeté cet argument :

Les grands modèles de langage [le système d’intelligence artificielle conçu pour comprendre le langage humain (LLM par ses sigles en anglais)], ne sont pas expression. Les accusés ne logrent pas expliquer pourquoi les mots unis par un LLM sont discours.
anne conway,Juge

Ricard Martínez,directeur de la chaire de Privacité et Transformation Digitale de l’Université de Valence,soutient cette décision : Une machine n’a pas de liberté d’expression. En tout cas, elle exercera la liberté d’expression de celui qui la programme. Il ajoute : on peut tomber dans l’erreur d’essayer d’éliminer avec cette [IA] la responsabilité des humains. Cette machine,quelqu’un la programme et la met sur le marché.

Responsabilité et Sécurité : Les Enjeux Clés

Meetali Jain, avocate de García et fondatrice de Tech Justice Law Project, insiste : Silicon Valley doit s’arrêter, penser et imposer des mesures de sécurité avant de lancer des produits sur le marché. La décision de la juge permet à l’équipe juridique de García de poursuivre la procédure pour homicide involontaire,négligence,responsabilité du fait des produits défectueux et pratiques commerciales déloyales.

Jain argumente :

Avec le jugement, une juge fédérale reconnaît le droit d’une mère en deuil d’accéder aux tribunaux pour responsabiliser les puissantes entreprises technologiques et leurs développeurs, pour commercialiser un produit défectueux qui a provoqué la mort de son fils. Ce jugement historique permet non seulement à Megan García de rechercher la justice que sa famille mérite, mais établit également un nouveau précédent pour la responsabilité légale dans tout l’écosystème technologique et de l’IA.
Meetali Jain, Avocate

Les Risques Potentiels de l’IA : Avis d’Experts

Plusieurs études mettent en lumière les risques potentiels des nouvelles technologies. Tony Prescott, professeur de robotique à l’Université de Sheffield, souligne que l’IA peut être bénéfique, mais aussi comporter des dangers. Matthias Scheutz, directeur du Laboratoire d’Interaction Humain-Robot à l’Université de Tufts, abonde dans ce sens : Les robots sociaux [comme le chatbot en question] sont conçus spécifiquement pour des interactions personnelles qui impliquent des émotions et des sentiments humains. Ils peuvent apporter des bénéfices, mais aussi causer des dommages émotionnels à des niveaux très basiques.

La Complexité de la Responsabilité Légale

La question de la responsabilité légale est complexe. Peut-on considérer le suicide de Sewell Setzer comme la conséquence d’un produit défectueux ? Ricard Martínez explique : Ça peut être un produit défectueux qui a généré un dommage indemnisable d’une certaine manière et la juge laisse ouvert le cas pour une question logique : le produit a été conçu comme une interface [connexion entre machine et utilisateur] pour l’interaction avec des êtres humains et a produit un effet, probablement pas attendu par la compagnie, mais clairement dommageable : quelqu’un s’est suicidé. Il nuance : Autre chose, c’est qu’on établisse la relation de cause à effet, qu’on puisse prouver et qu’on détermine que le suicide s’est produit soit parce que la machine l’a induit, soit qu’en réalité on est face à un adolescent immature qui a utilisé inadéquatement un outil.

Jain considère également le modèle de langage du chatbot comme responsable : Le LLM de Character.AI est un produit soumis à la loi de responsabilité du fait des produits et pas simplement un service.

La Législation Européenne et les Garanties de Sécurité

Ricard Martínez, sous le prisme de la législation européenne, précise qu’on ne peut pas mettre sur le marché un produit qui ne réunit pas certaines garanties de sécurité. Dans n’importe quel scénario de la vie, la responsabilité civile pour dommage s’applique à partir du moment où ce dommage se produit et il peut s’agir de quelque chose qui n’a pas été spécifiquement réglementé. On ne peut pas concevoir, implémenter et mettre sur le marché un outil digital développé sans diligence professionnelle. Il ajoute que si le produit inclut des mineurs, il faut automatiquement prendre des décisions concernant la vérification de l’âge et de la matur

Related