¿El gigante minorista Amazon ha cruzado una línea ética indefendible vendiendo su programa de reconocimiento facial a un departamento de policía para potencialmente espiar a todos los habitantes de una gran ciudad? Es probable que la historia se repita en todo el mundo, si no es ya el caso. Foto: getty images/istockphoto/hallojulie

Amazon identifica inmigrantes indocumentados para el presidente Trump

Share

Parece todo bien cuando una compañía le dice “les vamos a arreglar los problemas de los inmigrantes ilegales, los vamos a detener”. Imagine que usted es parte de un “falso positivo” y es identificado en los bancos de imágenes como un inmigrante ilegal. Imagine por un momento el problema en el que se puede encontrar.

-Matthieu Dugal, experto en inteligencia artificial

La mayoría de los algoritmos que se aplican para el reconocimiento facial se basan en amplias bases de datos de rostros. El problema es que nadie se hace responsable por la manipulación de eso datos que pueden llevar a identificar a la persona incorrecta. Con serias consecuencias.

El gigante de Amazon se reunió recientemente con líderes del Departamento Federal de Inmigración de los Estados Unidos para ofrecer el uso de reconocimiento facial para capturar inmigrantes ilegales.

¿Ciencia ficción?

¡Para nada! advierte el experto canadiense en inteligencia artificial Matthieu Dugal.

Escuche

El algoritmo de tecnología de reconocimiento facial toma imágenes de todo el mundo que pasa por un lugar. Foto : Lily Martin/CBC)

Los que utilizan datos basados en algoritmos rara vez saben exactamente cómo eso funciona; los acuerdos de licencia suelen estipular que no tienen acceso al código fuente. ¿Los vendedores? Están enfocados en las ganancias y el desconocimiento los aleja de la responsabilidad ante cualquier cosa que sea poco ética, ilegal o negativa.

En otras palabras, todo el ecosistema de inteligencia artificial está contextualizado u optimizado para una falta de responsabilidad.

Esto resulta preocupante en el ámbito del reconocimiento facial, que puede cruzar con facilidad el límite entre lo útil y lo ético y que puede llevar a consecuencias graves y a serias violaciones de los derechos humanos, sobre todo contra grupos minoritarios frecuentemente apuntados injustamente por esas tecnologías.

A pesar de esto, grupos económicos importantes como Amazon no dudan un segundo en meterse en el negocio, millonario, claro.

Cuestionado recientemente por la agencia noticiosa Bloomberg, Amazon no negó haber llevado a cabo conversaciones con diferentes organismos, incluidas las aduanas estadounidenses y la inmigración. Aunque la compañía dice que por el momento no se ha rubricado ningún contrato.

Amazon lanzó Rekognition a fines de 2016 y las fuerzas policiales ya lo están utilizando. (Reed Saxon / Associated Press)

El negocio millonario para ayudar a Trump a deportar

Según el informe ¿Quién está detrás de ICE? Amazon y otras compañías de tecnología están ganando miles de millones vendiendo servicios que ayudan a la agenda de deportación del presidente Trump.

El gigante tecnológico se encuentra entre las empresas de Silicon Valley que proporcionan tecnología a ICE, la U.S. Immigration and Customs Enforcement,  a la que ayuda a rastrear, detener y deportar a los inmigrantes.

Es la conclusión a la que llega el informe producido por un grupo de organizaciones sin fines de lucro que incluye a Mijente, al Proyecto de Defensa del Inmigrante (NIP), y el Inmigrant Defense Project.

«Es hora de responsabilizar a Amazon por su gran participación en la construcción de la máquina de deportación y exigir que se detengan, dice el informe».

No será fácil: Amazon gana miles de millones con estos contratos «, señaló Mijente en un comunicado.

Amazon Web Services representa el 32% de la cuota de mercado en su campo. Muy por delante del número 2, Azure, Microsoft, que alcanza el 15%.

El informe afirma que Amazon y la compañía de software Palantir, fundada por el aliado de Trump Peter Thiel, desempeñan un papel central en ayudar al gobierno federal a llevar a cabo su misión de inmigración y cumplimiento de la ley.

«Están jugando un papel cada vez más central para facilitar la expansión y la aceleración de los arrestos, las detenciones y las deportaciones», afirma el informe.

ICE se está preparando para utilizar la tecnología para la deportación masiva a una escala sin precedentes que podría hacer obsoletas las protecciones a nivel de ciudad y estado de «Santuario».

-informe ¿Quién está detrás de ICE?

La agente de policía de Seattle, Debra Pelich, a la derecha, lleva una cámara de video en sus lentes mientras habla con Alex Legesse antes de una reunión comunitaria en Seattle en marzo de 2015. La ACLU y otras organizaciones han pedido a Amazon que deje de vender su herramienta de reconocimiento facial, llamada Rekognition, a los organismos de orden público. (Elaine Thompson / Associated Press)

¿Cómo funciona esta tecnología de reconocimiento facial?

A ese logicial se lo conecta al conjunto de cámaras de vigilancia, ya sean privadas o públicas, como organismos, iglesias, centros comerciales,  y se las pasa a través de algoritmos de reconocimiento facial conectados a grandes bancos de imágenes, indica Matthieu Dugal, experto en inteligencia artificial.

El algoritmo toma imágenes de todo el mundo. Cuando detecta a una persona, un rostro que es reconocido por ese algoritmo de inteligencia artificial, con una persona que está en el banco de datos, se envía un alerta y los servicios policiales o de inmigración pueden arrestar a la persona.

«Básicamente, digamos que la policía está buscando a un criminal o que quieren seguir a alguien, ponen su foto en el sistema y las cámaras hacen el resto. Incluso las cámaras que la policía usa en sus uniformes pueden conectarse al sistema. »

La policía de Orlando utiliza hoy la plataforma.  Y Amazon presionó mucho para que se utilicen más cámaras, incluyendo las que se colocan en los cuerpos de los policías. Pero la policía de Orlando, a causa de presiones, no conectó las cámaras  que están en los cuerpos de los policías al servidor de Amazon con los algoritmos de reconocimiento facial.

– Matthieu Dugal

Pero para encontrar una persona, obviamente todo tiene que ser filmado.

Y aquí está el problema. Ningún marco legal permite todavía un uso sistemático de la ciberseguridad.

Esto sin contar los problemas del software de reconocimiento que no siempre se desarrollan a punto.

Una cámara de vigilancia Foto: iStock

«La literatura científica existente a ese respecto sugiere que más los programas de reconocimiento facial observan grupos sociodemográficos históricamente en desventaja, como las minorías visibles, las mujeres, las personas más pobres, la gente de color en general, más la tasa de falsos positivos, el error, aumenta. «

-Matthieu Dugal, experto en inteligencia artificial

La Asociación por las libertades civiles en Estados Unidos hizo una prueba.  Pasaron las fotos de todos los representantes del congreso por el algoritmo Rekognition de Amazon. Imagínese que “encontraron” 28 criminales entre los congresistas. Gente respetable, que pasaron todos los filtros de los servicios de policía. Eso da la dimensión de los errores que se cometen dice el experto.

Otro dato: las personas de color, que representan solo el 20% de los miembros del Congreso, aparecieron en el 40% de los resultados, dice Matthieu Dugal.

RCI con información de CBC- Radio Canadá-Mijente.

La entrevista con el experto en inteligencia artificial Matthieu Dugal es de Alain Gravel.

Share
Etiquetado con: , ,
Publicado en: Inmigración y Refugiados, Internacional, Internet y tecnología

¿Encontró un error? ¡Pulse aquí!

@*@ Comments

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

 caracteres disponibles

Aclaración: al enviarnos su comentario, usted reconoce que Radio Canadá Internacional tiene derecho a reproducir y a difundir el mismo, total o parcialmente, de la forma que fuere. Cabe destacar que Radio Canadá Internacional no endosa las opiniones vertidas por los internautas. Sus comentarios serán leídos y publicados si respetan las condiciones de nuestro sitio internet, aquí denominadas “Netiquette”.

Reglas de utilización »

Al verter sus opiniones en un foro público, debe ser igual de cortés que si estuviera frente a un interlocutor. No se tolerarán ataques ni insultos personales. Una cosa es no estar de acuerdo con una opinión, una idea o un hecho, y otra es faltar el respeto al prójimo. Las personas elocuentes no siempre están de acuerdo, y justamente ahí reside el interés de los foros.

La "netiquette" es el conjunto de reglas de conducta que rigen el comportamiento de los internautas. Antes de intervenir en una tribuna, es importante conocer estas reglas. Caso contrario, usted corre el riesgo de ser expulsado.

  1. Los foros de RCInet.ca no son anónimos. Al inscribirse, los usuarios deben ingresar su nombre, apellido y lugar de residencia. Estos datos aparecerán junto al comentario. RCInet.ca se reserva el derecho de no publicar un comentario si duda de la identidad de su autor.
  2. La usurpación de identidad con la intención de inducir a error o de perjudicar a un tercero es una infracción grave plausible de expulsión.
  3. Los foros de RCInet.ca están abiertos a todos, sin distinción de edad, origen étnico, religión, género ni orientación sexual.
  4. Las declaraciones difamatorias, agresivas, racistas, xenófobas, homofóbicas, sexistas o prejuiciosas hacia algún origen étnico, religión o franja etaria no serán publicadas.
  5. En Internet, las mayúsculas equivalen a gritos y pueden ser interpretadas como un signo de agresividad, lo cual resulta desagradable para los demás. Todo mensaje que contenga una o varias palabras en mayúscula (con excepción de las siglas y los acrónimos) será rechazado. Igual suerte correrán los mensajes que contengan una o varias palabras en letra negrita, itálica o subrayada.
  6. El lenguaje vulgar, obsceno o malintencionado está prohibido. Los foros son lugares públicos y sus declaraciones podrían herir la sensibilidad de otros internautas. Las personas que utilicen un lenguaje grosero serán expulsadas.
  7. El respeto mutuo es una condición de base. Por eso mismo está prohibido injuriar, amenazar o acosar a otro usuario. Usted puede expresar su desacuerdo sin atacar al prójimo.
  8. El intercambio de opiniones y puntos de vista discordantes es un elemento clave en todo debate sano, pero no debe transformarse en un diálogo ni en una discusión privada entre dos participantes que se interpelan sin importarles lo que piensen los demás. Los mensajes de esta naturaleza no serán publicados.
  9. Radio Canadá Internacional emite en cinco lenguas. Los debates en los foros deben realizarse en la misma lengua que el contenido al que hacen referencia. El uso de otras lenguas, con excepción de unas pocas palabras, está prohibido.
  10. Los mensajes que no tengan relación con el tema comentado no serán publicados.
  11. El envío reiterado de un mismo mensaje perjudica el intercambio de opiniones y por ende no será tolerado.
  12. La inserción de imágenes o de cualquier otro tipo de archivo en un comentario está prohibida. La inclusión de hipervínculos hacia otros sitios está permitida, a condición de que se respete la “netiquette”. Sin embargo, Radio Canadá Internacional no es responsable del contenido de estos sitios externos.
  13. La copia de texto de un tercero, aun cuando se incluya la referencia al autor, es inaceptable si la citación constituye la mayor parte del comentario.
  14. La publicidad y la convocación a movilizaciones, de cualquier forma que fuere, está prohibida en los foros de Radio Canadá Internacional.
  15. Todos los comentarios y contenidos son evaluados antes de su publicación. Radio Canadá Internacional se reserva el derecho de no publicar los mensajes de los internautas.
  16. En todo momento y sin preaviso, Radio Canadá Internacional se reserva el derecho de cerrar un foro.
  17. Radio Canadá Internacional se reserva el derecho de modificar este conjunto de reglas de conducta (netiquette) en cualquier momento y sin preaviso.
  18. Al participar en un foro, usted autoriza a Radio Canadá Internacional a publicar sus comentarios en Internet por un periodo de tiempo indeterminado. Esto significa asimismo que los mensajes serán indexados por los motores de búsqueda de Internet.
  19. Radio Canadá Internacional no está obligada, bajo ningún punto de vista, a retirar sus comentarios de Internet, aunque usted así lo requiriere. Por este motivo, le rogamos que reflexione detenidamente sobre el contenido y las posibles consecuencias de los mensajes que nos envía.

*

Un comentario sobre “Amazon identifica inmigrantes indocumentados para el presidente Trump
  1. Artemio Gordon dice:

    Señores de CBC Radio,

    Ustedes redactan el reportaje de un modo tendencioso y mal intencionado. Les recordaré algunas cosas.
    1- El gobierno de Estados Unidos se debe al los ciudadanos de Estados Unidos. Los extranjeros no cuentan. Ese gobierno tiene todo el derecho a diseñar y crear sistemas de protección y defensa de sus intereses, lo que incluye identificar ilegales e indocumentados.
    2- No es un sistema «para Trump». Es para el gobierno de EEUU y la protección de sus ciudadanos. Cualquier país del mundo está en la obligación de identificar a los que ingresan. Amazon cumple su parte del contrato. Nada ilegal ni inmoral, como Ustedes lo quieren hacer ver.
    3- ICE, «agencia de deportación del Presidente Trump». Ustedes son unos DESCARADOS !. El gobierno de EEUU tiene el DERECHO a deportar a quien ellos decidan deportar y punto. EEUU no es una tierra sin ley, donde todo el mundo puede llegar y quedarse. Igual lo hacen todos los países. ICE es una agencia del gobierno y cumple con su deber. Hacen cumplir la LEY. ¿Qué les pasa a Ustedes? ¿Se creen por encima de la ley de EEUU? Ni siquiera americanos son.
    4- ¿Cuándo van a entender que los que tienen la palabra decisoria son los ciudadanos de EEUU? No son las sociedades de ayuda a ilegales. No son liberales canadienses.
    5- ¿Cómo creen que se sienten los miles de ciudadanos que estudian, trabajan, aprenden un idioma, y aplican LEGALMENTE a ser inmigrantes de EEUU, sin colarse por fronteras ni solicitar asilo injustificados?

    OJALA deporten a TODOS los ilegales.