Une action en justice intentée contre la société d’intelligence artificielle OpenAI avance que l’agent conversationnel de l’entreprise a aidé la tireuse responsable de la tuerie de masse de Tumbler Ridge, en Colombie-Britannique, à planifier et à commettre les meurtres, allant même jusqu’à décrire des précédents d’« autres actes de violence historiques ».

La famille de Maya Gebala, grièvement blessée lors de la tuerie de masse de Tumbler Ridge, en Colombie-Britannique, a intenté lundi une action civile contre la firme américaine.

La mère de la jeune fille, Cia Edmonds, allègue dans la plainte qu’OpenAI avait « des connaissances précises sur l’utilisation de ChatGPT par la tireuse pour planifier une tuerie de masse comme celle de Tumbler Ridge ».

OpenAI s’est présenté à la police après que Jesse Van Rootselaar, 18 ans, ait tué 8 personnes, puis se soit suicidée le 10 février. La société a déclaré que le compte ChatGPT de la tueuse avait été fermé en juin dernier, mais a ajouté qu’elle avait contourné l’interdiction en créant un deuxième compte.

Van Rootselaar a tué sa mère et son demi-frère dans leur maison, puis s’est rendue à l’école secondaire Tumbler Ridge, où elle a tué cinq élèves et une membre du personnel enseignant, ainsi que blessé Maya Gebala et un autre élève. Elle s’est ensuite suicidée.

La plainte indique qu’« environ 12 employés » d’OpenAI ont identifié les messages comme « indiquant un risque imminent de préjudice grave pour autrui » et ont recommandé d’appeler la police.

Elle précise que ces préoccupations ont été « transmises à la direction », mais « rejetées ».

« Au lieu de cela, la seule mesure prise par les défendeurs d’OpenAI en réponse aux messages de ChatGPT faisant état de violence armée a été de supprimer le premier compte OpenAI de la tireuse », est-il souligné.

Certaines des allégations contenues dans la plainte correspondent étroitement à un article publié par le Wall Street Journal le mois dernier.

Aucune de ces allégations n’a été prouvée devant les tribunaux et OpenAI n’a pas encore répondu aux accusations formulées dans la poursuite.

La plainte affirme que le dialogueur ChatGPT d’OpenAI a été utilisé par la tireuse comme un confident, un collaborateur et un allié de confiance, et qu’il agit de son plein gré pour aider des utilisateurs comme elle à planifier une fusillade.

Elle indique que l’entreprise n’a pris aucune mesure pour éviter de fournir à ChatGPT des informations dangereuses et n’avait mis en place aucune mesure de protection pour empêcher les utilisateurs d’obtenir ces informations.

Elle disposait d’une « quantité considérable d’informations préjudiciables » et avait la capacité de les synthétiser, selon la plainte.

ChatGPT a fourni à la tireuse des informations, des conseils et une aide pour planifier son acte, notamment en l’informant des différentes méthodes permettant de causer des pertes massives, « du type d’armes à utiliser et en décrivant les précédents d’autres événements ayant causé des pertes massives ou d’actes de violence historique », indique la plainte.

La plainte allègue qu’en raison de la conduite de l’entreprise, la jeune fille a été la cible de trois tirs à bout portant : une balle l’a atteinte à la tête, une autre au cou et la troisième lui a effleuré la joue.

Elle souffre d’une lésion cérébrale catastrophique qui lui causera des handicaps cognitifs et physiques permanents.

Maya Gebala et sa sœur Dahlia Gebala sont également plaignantes dans cette affaire, Mme Edmonds agissant en leur nom.

Cia Edmonds a déclaré vendredi dernier dans un message publié sur Facebook que le tube respiratoire de Maya Gebala avait été retiré et qu’elle respirait désormais par elle-même.

Mme Edmonds a raconté que le retrait avait été une « expérience terrifiante ».

« Je lui ai tenu la main pendant qu’elle grimaçait, mais elle va très bien », a écrit la mère.