La Commission des services de police de London, en Ontario, a adopté jeudi de nouvelles règles encadrant l’utilisation de l’intelligence artificielle (IA) et des caméras-témoins.

Le service de police exige une surveillance accrue des outils d’IA à risque élevé, notamment ceux susceptibles de porter atteinte aux droits de la personne, à la vie privée ou à la confiance du public.

Selon cette nouvelle politique, l’utilisation de l’IA doit être justifiée, proportionnée, conforme aux normes juridiques et éthiques, et soumise à une surveillance humaine.

La Commission approuvera les technologies à risque modéré et élevé, y compris celles qui sont largement utilisées, très visibles ou qui soulèvent des préoccupations en matière de protection de la vie privée.

 Leur objectif n’est pas de diriger les opérations, mais d’établir des attentes claires en matière de gestion des risques, de responsabilité, de transparence et de maintien de la confiance du public, fait remarquer le président de la Commission, Ryan Gauss.

 Les technologies d’IA sont de plus en plus intégrées aux services de police. Bien qu’elles offrent des possibilités d’efficacité, elles présentent également des risques liés à la protection de la vie privée, aux idées préconçues et à la confiance du public.

Selon le chef de police de London, Thai Truong, les outils à haut risque pourraient inclure la technologie de reconnaissance faciale ou des logiciels susceptibles de susciter des inquiétudes au sein de la communauté.

La Commission a adopté à l’unanimité le cadre qui définira les attentes concernant l’acquisition, l’évaluation et le déploiement des technologies d’IA.

Absence de cadre provincial

Il n’existe actuellement aucun cadre provincial normalisé pour l’IA dans les services de police. L’approche de la police de London s’inspire de modèles similaires utilisés à Toronto, York et Peel, en Ontario.

Le chef Thai Truong devra désormais élaborer des procédures et une formation pour les agents utilisant l’IA, surveiller ses performances et ses impacts, et faire rapport au conseil dans les 12 mois suivant l’approbation de tout nouvel outil.

L’approche de la police de London s’inspire de modèles similaires utilisés à Toronto. (Photo d’archives)

Photo : Photo soumise par la Ville de Toronto

Ce dernier devra également fournir des indicateurs de rendement pour évaluer si l’IA atteint les objectifs et s’il existe des effets indésirables potentiels.

 Cette politique est devenue une priorité absolue, car l’IA se développe à une vitesse fulgurante. Son intégration dans les services de police est de plus en plus rapide, indique la directrice générale de la Commission, Stephanie Johanssen.

Lorsqu’il sollicite une approbation, le chef devra notamment fournir des détails sur le fonctionnement de l’outil, sa nécessité et toute considération juridique, relatif à la protection de la vie privée ou aux droits de la personne.

Politique relative aux caméras corporelles

La politique d’utilisation de l’IA constitue un cadre général qui inclut des dispositions spécifiques concernant les caméras-témoins.

La police de London sera également tenue de faire annuellement un audit de l’utilisation des caméras-témoins de ses agents et de signaler tout incident impliquant des images susceptibles de miner la confiance du public.

Photo : Avec l’autorisation du service de police de London

Elle exige du chef Truong de mettre en place des procédures opérationnelles claires, notamment des circonstances précises dans lesquelles les caméras-témoins peuvent et ne peuvent pas être activées, l’information immédiate des personnes enregistrées, ainsi que des rapports expliquant les retards ou les interruptions d’enregistrement.

L’utilisation des enregistrements par caméras-témoins, conjointement avec la reconnaissance faciale, les bases de données biométriques et les outils d’analyse ou de profilage, est interdite sans examen sur les plans de la loi et de la protection de la vie privée.

Des cadres qui préviennent des abus

Carmi Levy, analyste technologique basé à London, estime que ce cadre de référence est un pas dans la bonne direction.

« L’intelligence artificielle évolue à une vitesse fulgurante et nous devons suivre le mouvement », affirme Carmi Levy, analyste technologique.

Photo : Radio-Canada

 Toute technologie a besoin d’un cadre de référence afin que chacun comprenne le contexte de son utilisation, a-t-il expliqué.

C’est particulièrement crucial pour l’IA, car elle évolue très rapidement et les enjeux sont bien plus importants.

M. Levy ajoute qu’un rapport plus fréquent qu'aux 12 mois, comme le stipule l’exigence actuelle, pourrait s’avérer nécessaire, compte tenu du rythme des évolutions.

Le conseil recevra également un rapport annuel de conformité et d’évaluation des risques liés à l’IA à partir de 2027.

Avec les informations d’Isha Bhargava, CBC News