Consommateurs démunis face à l’intelligence artificielle des entreprises

Affirmant que l’intelligence artificielle doit être réglementée au pays pour protéger les droits fondamentaux des Canadiens, le commissaire canadien à la protection de la vie privée publie des recommandations dont certaines s’inspirent des interventions législatives avant-gardistes en Europe.

Le commissaire Daniel Therrien propose notamment de modifier la Loi sur la protection des renseignements personnels et les documents électroniques pour mieux encadrer les compagnies dans leur utilisation des renseignements personnels.

Il recommande de « créer un droit d’obtenir une explication valable à la suite d’une prise de décision automatisée » et un droit de contester ces décisions.

M. Therrien estime que le Canada devrait aller jusqu’à « enchâsser la protection de la vie privée comme un droit de la personne et en tant qu’élément essentiel à l’exercice d’autres droits fondamentaux ».

« L’intelligence artificielle a un immense potentiel, mais elle doit être mise en œuvre de façon à respecter la vie privée, l’égalité et les autres droits de la personne », a dit le commissaire dans sa présentation.

Quels sont les dangers au juste?

L’intelligence artificielle est capable d’une analyse sans cesse plus fine qui permet de prévoir les comportements et les réactions des consommateurs à une série de stimulus. Cela facilite en retour le recours à l’automatisation des décisions sur les individus. Elle permet d’entreposer et de comparer des données personnelles sans cesse plus nombreuses pour déterminer les termes d’un prêt bancaire par exemple ou le montant de primes d’assurance.

« Ces décisions ont des répercussions réelles sur la vie des gens. La manière dont elles sont prises soulève des préoccupations, ainsi que des questions d’équité, d’exactitude, de partialité et de discrimination », a-t-il ajouté.

Le commissaire aimerait aussi avoir plus d’outils dans son propre coffre pour imposer des sanctions aux contrevenants. Il aimerait que son Commissariat à la vie privée puisse avoir la capacité « de rendre des ordonnances exécutoires et d’imposer des sanctions pécuniaires proportionnelles afin d’encourager le respect de la loi ».

Protection différente en Europe

Les règles de l’Union européenne relatives à la protection des données sont plus développées qu’ici. Ces règles s’appliquent tant aux entreprises qu’aux organisations qui proposent des biens ou des services, comme Facebook ou Amazon, lorsqu’elles veulent utiliser les données personnelles de citoyens de l’UE.

Lorsque des informations vous identifiant directement ou indirectement en tant qu’individu sont stockées ou traitées, vous devez en être informé et vos droits en matière de protection des données doivent être respectés.

Vous pouvez demander par exemple d’accéder à vos données à caractère personnel qu’une entreprise ou organisation possède, et vous avez le droit d’obtenir gratuitement une copie de ces données, dans un format compréhensible. L’entreprise ou organisation concernée doit aussi vous répondre dans un délai d’un mois. Vous avez aussi le droit de rectifier les données inexactes vous concernant ou de les faire supprimer.

Le cas d’une infraction non punissable au Canada

Le mois dernier, les commissaires à la protection de la vie privée du Canada, de l’Alberta et de la Colombie-Britannique ont révélé que cinq millions d’images de visages de clients fréquentant certains centres commerciaux du pays avaient été captées sans leur consentement.

Cette initiative était celle d’une importante entreprise immobilière, Cadillac Fairview. Affirmant n’avoir voulu déterminer que l’âge et le sexe des acheteurs dans ses commerces, Cadillac Fairview avait installé des caméras cachées raccordées à un système de reconnaissance faciale.

Ce genre d’utilisation de données privées non consenties n’est pas sujette à des recours en justice. Les commissaires ont précisé ne pas avoir le pouvoir d’imposer des amendes à Cadillac Fairview ni à toute autre entreprise qui violerait la protection des renseignements personnels des Canadiens.

Le commissaire à l’information et à la protection de la vie privée de la Colombie-Britannique, Michael McEvoy, concluait que l’impossibilité de punir ces violations constitue « une lacune incroyable de la loi canadienne qui devrait vraiment changer ».

Le cas de Tim Hortons

Au début du mois de juin, le journal Financial Post avait publié un article sur l’utilisation par la chaîne de restaurants canadienne Tim Hortons de la technologie de géolocalisation. Grâce à l’une de ses applications téléphoniques offertes à ses clients, l’entreprise était en mesure de surveiller en silence les déplacements et les activités numériques d’un utilisateur, même si celui-ci n’utilisait pas activement l’application.

Le commissaire à la protection de la vie privée du Canada avait annoncé la tenue d’une enquête sur cette utilisation de données par l’application Tim Hortons avait officiellement mise à la disposition de ses clients pour qu’ils effectuent des commandes en ligne.

À l’origine de cette affaire, un journaliste du Financial Post qui avait demandé ses données d’utilisateur à l’entreprise et avait découvert que l’application tenait un journal de bord de tous ses déplacements, même lorsque l’application était fermée.

Les données de géolocalisation peuvent être très sensibles, car elles peuvent révéler des informations sur les habitudes et les activités des individus, par exemple, les visites médicales ou les lieux qu’ils fréquentent régulièrement.

LISEZ AUSSI : Pour répondre à vos questions, des fonctionnaires fédéraux cèdent leur voix à l’intelligence artificielle

On souhaite en arriver, à court terme, à ce que les citoyens interagissent directement avec des robots informatiques plutôt qu’avec des humains, notamment lors de discussions en ligne pour obtenir des informations sur des programmes gouvernementaux. (iStock)

RCI avec CBC News et UE