¿El gigante minorista Amazon ha cruzado una línea ética indefendible vendiendo su programa de reconocimiento facial a un departamento de policía para potencialmente espiar a todos los habitantes de una gran ciudad? Es probable que la historia se repita en todo el mundo, si no es ya el caso. Foto: getty images/istockphoto/hallojulie

Amazon identifica inmigrantes indocumentados para el presidente Trump

Parece todo bien cuando una compañía le dice “les vamos a arreglar los problemas de los inmigrantes ilegales, los vamos a detener”. Imagine que usted es parte de un “falso positivo” y es identificado en los bancos de imágenes como un inmigrante ilegal. Imagine por un momento el problema en el que se puede encontrar.

-Matthieu Dugal, experto en inteligencia artificial

La mayoría de los algoritmos que se aplican para el reconocimiento facial se basan en amplias bases de datos de rostros. El problema es que nadie se hace responsable por la manipulación de eso datos que pueden llevar a identificar a la persona incorrecta. Con serias consecuencias.

El gigante de Amazon se reunió recientemente con líderes del Departamento Federal de Inmigración de los Estados Unidos para ofrecer el uso de reconocimiento facial para capturar inmigrantes ilegales.

¿Ciencia ficción?

¡Para nada! advierte el experto canadiense en inteligencia artificial Matthieu Dugal.

Escuche

El algoritmo de tecnología de reconocimiento facial toma imágenes de todo el mundo que pasa por un lugar. Foto : Lily Martin/CBC)

Los que utilizan datos basados en algoritmos rara vez saben exactamente cómo eso funciona; los acuerdos de licencia suelen estipular que no tienen acceso al código fuente. ¿Los vendedores? Están enfocados en las ganancias y el desconocimiento los aleja de la responsabilidad ante cualquier cosa que sea poco ética, ilegal o negativa.

En otras palabras, todo el ecosistema de inteligencia artificial está contextualizado u optimizado para una falta de responsabilidad.

Esto resulta preocupante en el ámbito del reconocimiento facial, que puede cruzar con facilidad el límite entre lo útil y lo ético y que puede llevar a consecuencias graves y a serias violaciones de los derechos humanos, sobre todo contra grupos minoritarios frecuentemente apuntados injustamente por esas tecnologías.

A pesar de esto, grupos económicos importantes como Amazon no dudan un segundo en meterse en el negocio, millonario, claro.

Cuestionado recientemente por la agencia noticiosa Bloomberg, Amazon no negó haber llevado a cabo conversaciones con diferentes organismos, incluidas las aduanas estadounidenses y la inmigración. Aunque la compañía dice que por el momento no se ha rubricado ningún contrato.

Amazon lanzó Rekognition a fines de 2016 y las fuerzas policiales ya lo están utilizando. (Reed Saxon / Associated Press)

El negocio millonario para ayudar a Trump a deportar

Según el informe ¿Quién está detrás de ICE? Amazon y otras compañías de tecnología están ganando miles de millones vendiendo servicios que ayudan a la agenda de deportación del presidente Trump.

El gigante tecnológico se encuentra entre las empresas de Silicon Valley que proporcionan tecnología a ICE, la U.S. Immigration and Customs Enforcement,  a la que ayuda a rastrear, detener y deportar a los inmigrantes.

Es la conclusión a la que llega el informe producido por un grupo de organizaciones sin fines de lucro que incluye a Mijente, al Proyecto de Defensa del Inmigrante (NIP), y el Inmigrant Defense Project.

«Es hora de responsabilizar a Amazon por su gran participación en la construcción de la máquina de deportación y exigir que se detengan, dice el informe».

No será fácil: Amazon gana miles de millones con estos contratos «, señaló Mijente en un comunicado.

Amazon Web Services representa el 32% de la cuota de mercado en su campo. Muy por delante del número 2, Azure, Microsoft, que alcanza el 15%.

El informe afirma que Amazon y la compañía de software Palantir, fundada por el aliado de Trump Peter Thiel, desempeñan un papel central en ayudar al gobierno federal a llevar a cabo su misión de inmigración y cumplimiento de la ley.

«Están jugando un papel cada vez más central para facilitar la expansión y la aceleración de los arrestos, las detenciones y las deportaciones», afirma el informe.

ICE se está preparando para utilizar la tecnología para la deportación masiva a una escala sin precedentes que podría hacer obsoletas las protecciones a nivel de ciudad y estado de «Santuario».

-informe ¿Quién está detrás de ICE?

La agente de policía de Seattle, Debra Pelich, a la derecha, lleva una cámara de video en sus lentes mientras habla con Alex Legesse antes de una reunión comunitaria en Seattle en marzo de 2015. La ACLU y otras organizaciones han pedido a Amazon que deje de vender su herramienta de reconocimiento facial, llamada Rekognition, a los organismos de orden público. (Elaine Thompson / Associated Press)

¿Cómo funciona esta tecnología de reconocimiento facial?

A ese logicial se lo conecta al conjunto de cámaras de vigilancia, ya sean privadas o públicas, como organismos, iglesias, centros comerciales,  y se las pasa a través de algoritmos de reconocimiento facial conectados a grandes bancos de imágenes, indica Matthieu Dugal, experto en inteligencia artificial.

El algoritmo toma imágenes de todo el mundo. Cuando detecta a una persona, un rostro que es reconocido por ese algoritmo de inteligencia artificial, con una persona que está en el banco de datos, se envía un alerta y los servicios policiales o de inmigración pueden arrestar a la persona.

«Básicamente, digamos que la policía está buscando a un criminal o que quieren seguir a alguien, ponen su foto en el sistema y las cámaras hacen el resto. Incluso las cámaras que la policía usa en sus uniformes pueden conectarse al sistema. »

La policía de Orlando utiliza hoy la plataforma.  Y Amazon presionó mucho para que se utilicen más cámaras, incluyendo las que se colocan en los cuerpos de los policías. Pero la policía de Orlando, a causa de presiones, no conectó las cámaras  que están en los cuerpos de los policías al servidor de Amazon con los algoritmos de reconocimiento facial.

– Matthieu Dugal

Pero para encontrar una persona, obviamente todo tiene que ser filmado.

Y aquí está el problema. Ningún marco legal permite todavía un uso sistemático de la ciberseguridad.

Esto sin contar los problemas del software de reconocimiento que no siempre se desarrollan a punto.

Una cámara de vigilancia Foto: iStock

«La literatura científica existente a ese respecto sugiere que más los programas de reconocimiento facial observan grupos sociodemográficos históricamente en desventaja, como las minorías visibles, las mujeres, las personas más pobres, la gente de color en general, más la tasa de falsos positivos, el error, aumenta. «

-Matthieu Dugal, experto en inteligencia artificial

La Asociación por las libertades civiles en Estados Unidos hizo una prueba.  Pasaron las fotos de todos los representantes del congreso por el algoritmo Rekognition de Amazon. Imagínese que “encontraron” 28 criminales entre los congresistas. Gente respetable, que pasaron todos los filtros de los servicios de policía. Eso da la dimensión de los errores que se cometen dice el experto.

Otro dato: las personas de color, que representan solo el 20% de los miembros del Congreso, aparecieron en el 40% de los resultados, dice Matthieu Dugal.

RCI con información de CBC- Radio Canadá-Mijente.

La entrevista con el experto en inteligencia artificial Matthieu Dugal es de Alain Gravel.

Categorías: Inmigración y Refugiados, Internacional, Internet, ciencias y tecnologías
Etiquetas: , ,

¿Encontró un error? ¡Pulse aquí!

Por razones que escapan a nuestro control, y por un período de tiempo indefinido, el espacio de comentarios está cerrado. Sin embargo, nuestras redes sociales siguen abiertas a sus contribuciones.