Alors que le coût de la vie continue d’augmenter, le prix des produits de première nécessité est une source d’inquiétude majeure pour de nombreux Ontariennes et Ontariens, en particulier lorsque le prix de ces produits varie selon les détaillants en fonction de qui on est.
C'est le résultat de la tarification par surveillance (également appelée tarification personnalisée ou tarification algorithmique personnalisée). Dans le cadre de ce processus, un détaillant utilise des algorithmes automatisés et des technologies d'intelligence artificielle pour analyser des données personnelles et fixer des prix individualisés en temps réel. Contrairement à la tarification dynamique, qui ajuste les prix en fonction de la demande globale du marché, comme la hausse des tarifs aériens lors des fins de semaine fériées, la tarification par surveillance adapte les prix à la situation personnelle et au comportement de chaque consommateur, souvent à son insu. Cela signifie que deux personnes peuvent se voir proposer des prix très différents pour un même produit, sans transparence ni aucun moyen de comparer.
En Ontario, la tarification par surveillance présente un risque sérieux de violation du Code des droits de la personne (le Code). Le Code est une loi provinciale qui protège les individus contre la discrimination fondée sur des caractéristiques (ou motifs) qu’il énumère, comme la race, le sexe, le handicap, l’âge ou l'état familial (p. ex. le fait d'être dans une relation parent/tuteur-enfant). Si la tarification par surveillance s'appuie, même partiellement, sur des données qui incluent des motifs protégés, ou y sont liées, pour fixer des prix plus élevés, elle pourrait porter atteinte au droit d'être à l'abri de la discrimination en vertu du Code. Il y a lieu de souligner que l'intention sous-jacente à la décision d'une entreprise d'utiliser la tarification par surveillance importe peu. C'est plutôt l'impact discriminatoire qui compte. Dans le cas de la tarification par surveillance, cet impact pourrait bien être que des prix différents nous sont offerts pour les mêmes produits en fonction de notre race, de notre âge, de notre handicap ou d'autres motifs.
Voici quelques scénarios potentiels : une femme utilisant une application de covoiturage tard le soir se voit facturer un tarif plus élevé que les hommes, une personne à mobilité réduite paie plus cher pour la livraison de nourriture, ou encore une personne d’origine asiatique se voit facturer un prix plus élevé pour des articles de décoration juste avant le Nouvel An lunaire.
Le Code a été adopté pour protéger les Ontariennes et Ontariens contre ce genre de situations. À l'heure actuelle, la Commission des droits de la personne de l'Ontario (la Commission) intensifie ses travaux sur la manière dont les pratiques et technologies émergentes, telles que la tarification par surveillance et d'autres technologies d'intelligence artificielle, recoupent les droits de la personne.
En partenariat avec d'autres grands organismes œuvrant dans le secteur des droits de la personne, de la protection de la vie privée et de la réforme du droit, la Commission a publié une Évaluation de l’impact de l’intelligence artificielle sur les droits de la personne qui contient des conseils pratiques pour reconnaître et atténuer la discrimination découlant des systèmes d’IA et des Principes pour l’utilisation responsable de l’intelligence artificielle. Ces ressources aident les organismes à développer et utiliser l'IA d’une manière à maintenir la confiance du public, et à respecter la vie privée et les droits de la personne. Toute entreprise ou tout organisme, en Ontario, qui envisage d’utiliser des données personnelles ou l’IA devrait les consulter pour s'assurer de respecter le Code.
La Commission a pour mandat de promouvoir et de protéger les droits de la personne dans tout l’Ontario. Ce mandat comprend l’obligation d’examiner proactivement les nouveaux risques posés par les pratiques émergentes, comme la tarification par surveillance, afin de prévenir la discrimination. À une époque où les avantages potentiels d'outils comme l'intelligence artificielle sont à l'étude, la protection de nos droits de la personne fondamentaux doit être surveillée.