Montréal se positionne comme un grand pôle de l'intelligence artificielle Photo : Radio-Canada

Utiliser l’intelligence artificielle en immigration au Canada pourrait avoir des « conséquences mortelles »

Share

Un rapport indépendant, mené par le Citizen Lab de l’Université de Toronto, met en garde le gouvernement canadien en raison de son utilisation d’une nouvelle génération de logiciels intelligents pour filtrer et traiter les dossiers de personnes qui font des demandes pour immigrer au Canada.

Pétra Molnar du Citizen Lab – Photo : Université de Toronto

Le Citizen Lab estime que les risques de dérapages aux conséquences très graves naîtraient d’une utilisation insensible ou abusive en plus de mener à de la discrimination, à l’atteinte à la vie privée et aux droits de la personne des candidats à l’immigration.

Ces nouveaux outils dits intelligents pourraient, dit-on, entraîner des « conséquences mortelles » pour les immigrants et les réfugiés.

« Nous savons que le gouvernement expérimente l’utilisation de ces technologies […] mais il est clair que sans garanties et mécanismes de surveillance appropriés, utiliser l’IA pour déterminer l’immigration et le statut de réfugié est très risqué », explique Pétra Molnar, l’une des auteures du rapport.

« L’IA n’est pas neutre. C’est un peu comme une recette. Et si votre recette est biaisée, la décision prise par l’algorithme est également biaisée et difficile à contester », poursuit-elle.

Un outil qui aide au triage, affirme-t-on au gouvernement, mais qui ne prend pas les décisions

Le ministre fédéral de l’Immigration Ahmed Hussen. PHOTO ADRIAN WYLD

Au début de l’année, des fonctionnaires fédéraux ont lancé deux projets pilotes pour qu’un système d’intelligence artificielle trie des demandes de visa de résident temporaire en provenance de la Chine et de l’Inde.

Mathieu Genest, un porte-parole du ministre de l’Immigration Ahmed Hussen, a déclaré que le programme d’analyse aide les agents à trier les demandes de visas en ligne pour « traiter plus efficacement les dossiers courants ».

Il dit que la technologie est utilisée exclusivement comme un mécanisme de tri pour aider les agents d’immigration à traiter un nombre toujours croissant de demandes de visas de visiteurs de ces pays en déterminant rapidement les applications normales et en signalant les dossiers plus complexes à examiner.

« L’intention est de soutenir les décideurs dans leur travail et non de les remplacer, a dit M. Genest. Nous surveillons et évaluons les résultats et le succès de ces projets pilotes avant de les lancer ou d’envisager de les étendre à d’autres pays et secteurs d’activité. »

Le gouvernement canadien préparerait d’autre part un projet de directives sur l’utilisation de technologies dans la prise de décisions automatisées au sein du gouvernement. Photo : Immigration Canada

Quoi faire pour éviter les pièges de l’intelligence artificielle en immigration?

Les auteurs du rapport du Citizen Lab publient une liste de sept recommandations pour une plus grande transparence, la publication et la surveillance publiques de l’utilisation de l’intelligence artificielle et l’analyse prédictive par le gouvernement pour automatiser certaines activités qui visent des applications d’immigrants et de visiteurs.

Ils s’inquiètent particulièrement du sort des réfugiés dans les mains de l’intelligence artificielle. Puisque la loi sur l’immigration est discrétionnaire, ce groupe devrait vraiment être le dernier groupe soumis à des expériences technologiques sans surveillance.

Le Citizen Lab se dit en faveur de la création d’un organisme de surveillance indépendant chargé de surveiller et d’examiner l’utilisation de l’intelligence artificielle pour la prise de décision.

Recommandé pour vous :
L’intelligence artificielle dans les entreprises canadiennes : Arriérée ou retardée?

Photo : Radio-Canada

RCI avec La Presse canadienne et la contribution de Radio-Canada

En complément

L’intelligence artificielle au service de la radiologie – RCI 

Pourquoi un Américain à la tête du laboratoire montréalais de Microsoft sur l’intelligence artificielle? – RCI 

Montréal confirmée comme cerveau mondial de l’intelligence artificielle et profonde – RCI 

Share
Catégories : Immigration et Réfugiés, International, Internet et technologies
Mots-clés : , , , , ,

Vous avez remarqué une erreur ou une faute ? Cliquez ici !

@*@ Comments

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

 caractères restants

Note: En nous soumettant vos commentaires, vous reconnaissez que Radio Canada International a le droit de les reproduire et de les diffuser, en tout ou en partie et de quelque manière que ce soit. Veuillez noter que Radio-Canada ne cautionne pas les opinions exprimées. Vos commentaires seront modérés, et publiés s'ils respectent la nétiquette.

Nétiquette »

Quand vous vous exprimez dans le cadre d'une tribune, vous devez être aussi courtois que si vous parliez à quelqu'un face à face. Les insultes et attaques personnelles ne seront pas tolérées. Ne pas être d'accord avec une opinion, une idée ou un événement est une chose, mais manquer de respect envers autrui en est une autre. Les grands esprits ne se rencontrent pas toujours, et c'est bien là l'intérêt des tribunes!

La nétiquette est l'ensemble des règles de conduite régissant le comportement des internautes. Avant d'intervenir dans une tribune, il est important d'en prendre connaissance. Sinon, on risque l'expulsion!

  1. Les tribunes de RCInet.ca ne sont pas anonymes. Au moment de s'inscrire, les utilisateurs sont tenus d'indiquer leurs nom, prénom et lieu de résidence, qui s'afficheront au moment de la publication de leur commentaire. RCInet.ca se réserve le droit de ne pas publier un commentaire s'il existe un doute quant à l'identité de son auteur.
  2. L'usurpation de l'identité d'autrui dans l'intention d'induire en erreur ou de causer un préjudice est une infraction grave passible d'expulsion.
  3. Les tribunes de Rcinet.ca sont ouvertes à tous, quels que soit l'âge, l'origine ethnique, la religion, le sexe ou l'orientation sexuelle.
  4. Les propos diffamatoires, haineux, racistes, xénophobes, homophobes, sexistes ou disgracieux envers l'origine ethnique, l'appartenance à une religion ou à un groupe d'âge ne seront pas publiés.
  5. Dans Internet, les majuscules équivalent aux cris et peuvent être interprétées comme de l'agressivité, ce qui est plutôt désagréable pour vos interlocuteurs. Tout message contenant un ou des mots écrits en majuscules (à l'exception des sigles et des acronymes) sera rejeté. Il en sera de même pour les messages contenant un ou des mots en caractères gras, italiques ou soulignés.
  6. Le langage vulgaire, obscène ou malveillant est interdit. Les tribunes sont des lieux publics, et vos propos pourraient heurter certains internautes. Les personnes faisant usage d'un langage grossier seront expulsées.
  7. Le respect mutuel est de mise entre les utilisateurs. Ainsi, il est interdit d'injurier, de menacer ou de harceler un utilisateur. Vous pouvez exprimer votre désaccord avec une idée sans attaquer quiconque.
  8. L'échange d'arguments et de vues contradictoires est un élément clé d'un débat sain, mais il ne doit pas prendre la forme d'un dialogue ou d'une discussion privée entre deux participants qui s'interpellent sans égard aux autres participants. Les messages de ce type ne seront pas affichés.
  9. Radio Canada International diffuse en cinq langues. Les échanges dans les forums doivent se faire dans la même langue que le contenu que nous publions ou dans une des deux langues officielles, soit le français ou l'anglais. L'usage d'autres langues, à l'exception de quelques mots, est interdit. Les messages sans rapport avec le sujet ne seront pas publiés.
  10. L'envoi de messages à répétition nuit aux échanges et ne sera pas toléré.
  11. L'insertion d'images ou de tout autre type de fichier dans les commentaires est interdite. L'inclusion d'hyperliens vers d'autres sites est permise, à condition qu'ils respectent la nétiquette. Toutefois, Radio Canada International n'est aucunement responsable du contenu de ces sites.
  12. La copie d'un texte d'autrui, même avec référence à son auteur, est inacceptable si cet extrait constitue la majeure partie du commentaire.
  13. La publicité et les appels à la mobilisation, sous quelque forme que ce soit, sont interdits dans les tribunes de Radio Canada International.
  14. Tous les commentaires et autres types de contenus sont modérés avant publication. Radio Canada International  se réserve le droit de ne pas publier les messages des internautes.
  15. Radio Canada International se réserve le droit de fermer une tribune à tout moment, sans préavis.
  16. Radio Canada International se réserve le droit de modifier ces règles de conduite (nétiquette) en tout temps, sans préavis.
  17. En participant à ses tribunes, vous autorisez Radio Canada International à publier vos commentaires sur la toile pour un temps indéfini. Cela suppose aussi que ces messages seront indexés par les moteurs de recherche d'Internet.
  18. Radio Canada International  n'est nullement tenue de retirer vos messages du web, si un jour vous en faites la demande. Nous vous invitons donc à bien réfléchir à vos propos et aux conséquences de leur publication.

*