La famille d'une jeune fille gravement blessée lors de la tuerie survenue au Canada il y a un mois a décidé de poursuivre OpenAI en justice, reprochant à l'entreprise de ne pas avoir signalé à la police d'inquiétants messages sur ChatGPT, ont déclaré mardi ses avocats.

OpenAI avait interdit en juin un compte lié à Jesse Van Rootselaar, une femme transgenre de 18 ans qui a tué huit personnes, dont sa mère et son demi-frère, le 10 février dans la ville de Tumbler Ridge, dans l'ouest du Canada. Elle s'était ensuite rendue dans son ancien collège-lycée pour abattre cinq enfants de 12 et 13 ans et une éducatrice de 39 ans avant de se donner la mort.

Passer la publicité

Son compte avait été suspendu car son activité suscitait des inquiétudes quant à une utilisation de ChatGPT à des fins violentes, mais OpenAI a déclaré ne pas avoir informé la police car rien ne laissait présager un passage à l'acte imminent. Les avocats de la famille de Maya Gebala, une fille de 12 ans toujours à l'hôpital, ont déclaré dans un communiqué qu'ils poursuivaient OpenAI pour négligence.

Nouveaux changements

«Le but de cette action en justice est de faire toute la lumière sur les circonstances et les raisons qui ont conduit à la tuerie de Tumbler Ridge, d'établir les responsabilités, de demander réparation pour les préjudices et les pertes subis, et de contribuer à prévenir une autre atrocité de ce type au Canada», a déclaré le cabinet d'avocats Rice Parsons Leoni and Elliott. Le cabinet a ajouté que la plainte reposait sur des «allégations extrêmement graves, bien que non prouvées, à l'encontre de l'entreprise technologique américaine».

Le mois dernier, le Canada a convoqué les dirigeants d'OpenAI à Ottawa pour discuter de ses protocoles de sécurité, et le premier ministre de la Colombie-Britannique, David Eby, s'est entretenu directement avec le patron de l'entreprise, Sam Altman. Fin février, OpenAI a déclaré que ses protocoles de sécurité actuels auraient obligé l'entreprise à signaler le compte à la police canadienne.

L'entreprise affirme avoir apporté de nombreux changements «il y a plusieurs mois», notamment en consultant «des spécialistes de la santé mentale et du comportement» afin d'identifier les situations où les conversations avec les chatbots constituent un risque crédible. Interrogé sur l'action en justice, OpenAI a dit à l'AFP que ce «qui s'était passé à Tumbler Ridge est une tragédie sans nom». «OpenAI reste déterminée à collaborer avec les autorités gouvernementales et judiciaires afin d'apporter des changements significatifs qui contribueront à prévenir de telles tragédies à l'avenir», a ajouté un porte-parole de l'entreprise dans un communiqué.