Le gouvernement canadien examinera les informations fournies par OpenAI sur la tuerie de Tumbler Ridge, en Colombie-Britannique, avant d'agir, a déclaré, jeudi, le ministre fédéral de l'Intelligence artificielle, Evan Solomon.

Evan Solomon a indiqué que le gouvernement devait d'abord voir ce que contiennent les informations avant de pouvoir réglementer.

Les cas difficiles donnent lieu à de mauvaises lois, il faut donc être très prudent quant à la rapidité de notre réaction, a-t-il expliqué, lors d'un événement à Ottawa.

Jesse Van Rootselaar a abattu huit personnes à Tumbler Ridge le 10 février, dont six enfants, avant de se donner la mort.

OpenAI avait interdit à la tireuse d'utiliser son agent conversationnel ChatGPT en raison d'interactions inquiétantes, mais n'avait pas alerté les forces de l'ordre. La tireuse a contourné l'interdiction de ChatGPT en utilisant un deuxième compte.

Evan Solomon a expliqué que l'Institut canadien de la sécurité de l'IA collabore avec OpenAI afin d'obtenir l'accès aux protocoles de sécurité de l'entreprise. Bien qu'il ait affirmé en avril que l'institut avait obtenu l'accès à l'ensemble des protocoles, il a indiqué jeudi que le processus n'était pas encore terminé.

Il a dit aux journalistes que l'institut de sécurité travaill[ait] actuellement à définir précisément les informations qu'il obtiendra d'OpenAI.

Ce travail comprend des négociations sur des renseignements sensibles concernant les algorithmes, a-t-il précisé. Mais ils sont en train d'évaluer l'ampleur et la portée de la chose.

Questionné sur l'état d'avancement du centre dans ce processus, Evan Solomon a répondu qu'ils étaient probablement un peu plus avancés que la simple négociation des informations [et que] les discussions sont bien engagées.

Evan Solomon s'exprimait ainsi jeudi, lors d'une table ronde avec le ministre de la Culture, Marc Miller, à l'occasion d'un événement portant sur les perspectives des jeunes concernant l'IA et la réglementation technologique.

Fondamentalement une erreur humaine

Evan Solomon a souligné lors de cet événement que l'intelligence artificielle avait permis de déceler le cas de la tireuse de Tumbler Ridge, mais que les évaluateurs humains avaient choisi de ne pas le transmettre à la police.

Sans minimiser la tragédie et la responsabilité qui incombe à OpenAI, on a tendance à croire qu'il s'agissait d'une erreur imputable uniquement à l'IA, alors que, en fin de compte, c'était fondamentalement une erreur humaine, a affirmé Marc Miller.

Evan Solomon a rencontré le PDG d'OpenAI, et son équipe, en mars. Je les ai convoqués, car ils ont, de leur propre aveu, omis de signaler une menace […], ils l'ont admis et se sont excusés. Mais nous ne comprenons pas le fonctionnement de leur système d'alerte, a-t-il dit.

À la suite de cette réunion, Evan Solomon a annoncé que l'entreprise avait promis de prendre plusieurs mesures, notamment :

• la remise d'un rapport décrivant les nouveaux systèmes qu'elle développe pour identifier les délinquants à haut risque et les contrevenants aux politiques;
  
• l'établissement d'un point de contact direct avec la Gendarmerie royale du Canada (GRC);
  
• et la mise en œuvre de protocoles de sécurité afin d'orienter les personnes en détresse vers les services locaux appropriés.

Evan Solomon a précisé jeudi que Marc Miller était également présent à cette réunion, ainsi que le ministre de la Justice, Sean Fraser, et le ministre de la Sécurité publique, Gary Anandasangaree.

Ce que nous avons constaté lors de cette réunion était décevant et insuffisant, a-t-il conclu.

Marc Miller pilote un projet de loi sur les préjudices en ligne, mais le gouvernement n'a pas encore décidé si les agents conversationnels seront concernés par cette mesure.