Un nuevo estudio, llevado a cabo por el “Citizen Lab” y el “International Human Rights Program” ambos de la Universidad de Toronto, advierte que el interés del Gobierno Federal canadiense en utilizar algoritmos de Inteligencia Artificial (AI) para funcionar como filtro en los procesos de inmigración podría crear discriminación además de violar la privacidad y los derechos humanos de los postulantes.
Este investigación, concretada por el “Citizen Lab” de Toronto, destaca el impacto que podría tener una toma de decisiones automatizada que involucra aplicaciones de inmigración y cómo algunas fallas dentro de la tecnología podrán conducir a “consecuencias mortales” para los refugiados y los inmigrantes en general.
No es la primera vez que se habla de los potenciales peligros de dejar en manos de la IA procesos que pueden resultar sensibles, donde la sensibilidad del ser humano cumple una función muy importante. En este caso, y a partir de esta investigación, los autores del informe publicaron una lista de siete recomendaciones que piden una mayor transparencia, la divulgación al público en general y el seguimiento del uso de la inteligencia artificial y por supuesto, un análisis predictivo por parte del gobierno para automatizar ciertas actividades relacionadas con las solicitudes de inmigración y de visitantes.
Petra Molnar, una de las responsables de este informe aseguró que es sabido que el gobierno está experimentando con el uso de estas tecnologías aunque también está claro que sin las salvaguardias y los mecanismos de control adecuados, el uso de este tipo de tecnologías, puntualmente la Inteligencia Artificial, podría ser muy arriesgado en el momento de determinar la condición de un inmigrante o un refugiado. Para Molnar “la IA no es neutral, pues resulta de un algoritmo que funciona como una receta y si la receta de la que aprendió está sesgada, la decisión tomada por el algoritmo también podría estarlo y se torna muy complicado”.
iStockPhoto.com / AndreyPopov
También podría interesarle:
Su próxima entrevista de trabajo podría ser con un algoritmo de Inteligencia Artificial
Por Leonardo Gimeno | jueves 6 septiembre, 2018 |
Es sabido que la inteligencia artificial es ya parte importante de nuestras vidas, en algunos procesos que hacemos en páginas de internet, como por ejemplo, traducciones, compra de pasajes en sitios específicos y en nuestra interacción con los teléfonos y…»
La inmigración es un hecho de suma importancia y se toma en la mayoría de los casos como una herramienta muy importante en Canadá para la mejora del mercado laboral y como un fuerte estimulante de la economía y del crecimiento demográfico ( comparada con la percepción de ésta en Estados Unidos y Europa). La idea del gobierno Federal es justamente utilizar la IA en estos proceso que, dado el volumen récord de los niveles de inmigración en el país, están causando diversos problemas administrativos en la infraestructura que contiene tanto los procesos de aceptación, y proceso de solicitudes como también la integración de dichos inmigrantes.
A principios de este año, el gobierno federal canadiense lanzó dos proyectos piloto para probar un sistema de inteligencia artificial que examinará las solicitudes de visado de residente temporales provenientes de China h la India.Mathieu Genest, portavoz del Ministro de Inmigración federal Ahmed Hussen, dijo que el programa de análisis ayuda a los oficiales a examinar las solicitudes de visa en línea para "procesar los casos actuales de manera más eficiente". Según Genest, esta tecnología está siendo utilizada solamente como mecanismo de selección para ayudar a los funcionarios de inmigración a tramitar un número cada vez mayor de solicitudes de visado de visitantes procedentes de estos países, identificando de manera mucho más rápida y eficiente solicitudes que estén en forma e informando sobre casos más complejos para su revisión más detallada. Para Genest la intención no es reemplazar a nadie; al contrario, es apoyar y ayudar a los responsables de la toma de decisiones en su trabajo. El portavoz del Ministro de Inmigración aseguró también que se está monitoreando y evaluando constantemente los resultados de este proyecto piloto antes de expandirlo a otros países y sectores.
Petra Molnar se mostró confiada que los funcionarios y las autoridades pertinentes revisen la investigación realizada por los profesionales del Citizen Lab y de esta manera tratar de establecer las pautas para seguir las recomendaciones allí descritas, entre ellas, llamar a un organismo independiente para la supervisión, monitoreo y revisión de la utilización de la inteligencia artificial en la toma de decisiones. Para Molnar el desafío no es ver si se usa o no la IA en este tipo de procesos… lo primordial es que se haga, pero con los controles necesarios para que sea utilizada correctamente.
iStockPhoto.com
También podría interesarle:
La Inteligencia Artificial en la justicia en Quebec, ¿ficción o hipótesis realista?
Por Leonardo Gimeno | sábado 7 julio, 2018 |
Ciertamente, la Inteligencia Artificial (IA) está penetrando en diversos ámbitos de nuestra sociedad y se proyecta en espacios donde uno nunca hubiera pensado. En este caso, el horizonte de la justicia se vislumbra como un posible escenario para la implementación…»
Fuentes: Citizen Lab (Universidad de Toronto), RCI, Immigration.ca
Por razones que escapan a nuestro control, y por un período de tiempo indefinido, el espacio de comentarios está cerrado. Sin embargo, nuestras redes sociales siguen abiertas a sus contribuciones.