Approbation des technologies à haut risque dans le cadre de la politique de la Commission des services policiers de Toronto sur l’utilisation des technologies d’intelligence artificielle

Ann Morgan
Présidente
Commission des services policiers de Toronto
40, rue College
Toronto (Ontario) M5G 2J3

Madame,

Objet : Approbation des technologies à haut risque dans le cadre de la politique de la Commission des services policiers de Toronto sur l’utilisation des technologies d’intelligence artificielle

La Commission ontarienne des droits de la personne (CODP) accueille favorablement la mise à jour de la Commission de services policiers de Toronto (CSPT) sur sa mise en œuvre de la politique Use of Artificial Intelligence Technologies Policy (politique relative à l’utilisation des technologies d’intelligence artificielle), ainsi que l’inventaire des technologies et les détails de leur utilisation par le service de police de Toronto (SPT), qui seront présentés lors de la réunion de la CSPT le 11 janvier 2024.

Il s’agit d’une mise à jour importante, car elle répertorie les technologies d’intelligence artificielle (IA) utilisées par le SPT et leurs niveaux de risque respectifs. En particulier, l’inventaire de l’IA figurant à l’annexe B de la mise à jour fait état d’une technologie de reconnaissance faciale utilisée par le SPT qui présente un « risque élevé ».

Lors des consultations menées par la CSPT pour élaborer sa politique d’utilisation de l’IA, la CODP a estimé que les technologies de reconnaissance faciale soulevaient de sérieuses préoccupations en matière de droits de la personne, elles sont susceptibles d’exacerber, de perpétuer ou même d’initier des pratiques discriminatoires. Ces préoccupations ont aussi été récemment relevées dans De l’impact à l’action, rapport final de la CODP sur le racisme envers les personnes noires par le SPT.

Le paragraphe 19 de la politique de la CSPT en matière d’IA répond aux préoccupations de sécurité concernant l’utilisation de technologies à risque élevé et modéré et stipule que le chef de la police :

Fera rapport à la Commission, dès qu’elle sera relevée, sur toute technologie d’IA utilisée par le SPT avant l’adoption de la présente politique et considérée comme présentant un risque élevé ou modéré, y compris :

1. la raison pour laquelle la technologie d’IA a été considérée comme présentant ce niveau de risque, et,
2. un plan pour :
   
   1. arrêter l’utilisation de la technologie de l’IA dans un délai maximum de trois mois,
   2. évaluer le risque et tout préjudice potentiel qui découleraient de l’utilisation de la technologie de l’IA,
   3. élaborer un plan d’atténuation, et
   4. demander l’approbation de la Commission pour continuer à utiliser cette technologie d’IA;

Nous ne savons pas avec certitude si les documents fournis pour la mise à jour sont censés constituer le rapport à la Commission concernant les technologies d’IA à risque élevé ou modéré, comme indiqué au paragraphe 19. La CODP n’a pas connaissance d’un rapport public d’évaluation de la technologie à haut risque recensée ni d’une pause prévue dans l’utilisation de la technologie pour demander à la CSPT l’autorisation de continuer à l’utiliser.

Si le chef de la police cherche à obtenir l’autorisation de poursuivre l’utilisation des technologies à haut risque recensées, les documents actuellement disponibles pour la réunion de la Commission ne semblent pas fournir suffisamment de renseignements sur le plan du SPT pour

1. arrêter l’utilisation de la technologie,
2. évaluer le risque et tout préjudice potentiel qui découleraient de l’utilisation de la technologie de l’IA,
3. fournir un plan complet pour atténuer les risques relevés.

Le fait de ne pas tenir compte de ces éléments du paragraphe 19 augmente considérablement le risque de violations potentielles du Code des droits de la personne de l’Ontario.

Si les documents actuellement fournis ne servent qu’à recenser les risques, la CODP est impatiente de prendre connaissance du rapport d’évaluation complet et du plan, comme l’exige le paragraphe 19 de la politique relative à l’IA de la CSPT.

Nous sommes conscients que la transparence et les consultations publiques concernant ces évaluations sont importantes pour garantir la confiance du public dans la police et la mise en œuvre d’une approche fondée sur les droits de la personne. La CODP encourage donc le SPT et la CSPT à prendre ces mesures importantes dans les plus brefs délais.

La CODP a eu le plaisir de contribuer à l’élaboration de la politique de la CSPT en matière d’utilisation de l’IA, et est heureuse d’aider le SPT et la CSPT à mettre en œuvre cette politique, afin de garantir l’utilisation en toute sécurité de l’IA dans les services policiers.

Veuillez agréer mes salutations distinguées,

Patricia DeGuire
Commissaire en chef

c.c. Dubi Kanengisser, Directeur général, Conseil des services policiers de Toronto