(REUTERS/Charles Platiau)

Fallo en línea de Facebook e Instagram deja entrever cómo la IA etiqueta las fotos

El miércoles 3 de julio fue un día especial para los usuarios de Facebook y de Instagram. Un fallo que afectó a las redes sociales a nivel mundial, permitió ver etiquetas en lugar de las fotos de los usuarios de las plataformas con palabras (etiquetas) asignadas por los sistemas internos de IA (Inteligencia artificial). De esta manera y gracias a dicho incidente, los usuarios pudieron ver cómo es que la IA ve el contenido en imágenes desde su punto de vista. 

Desde la compañía, un mensaje fue enviado explicando que, durante operaciones de mantenimiento de rutina, se presentó un problema que dificulta que ciertos usuarios carguen o envíen fotos y videos, y que los equipos técnicos trabajaban para volver el servicio a la normalidad. Luego de aproximadamente ocho horas, Facebook tuiteó un nuevo mensaje que el problema o falla había sido resuelto. 

Según reporta un artículo de la BBC, la plataforma DownDetector, un sitio web que se especializa en monitoreo en tiempo real en la red, el 86% de las quejas reportadas tenían que ver con el uso de las imágenes, mientras que un 8% reportó problemas con el feed de noticias. 

El problema provocó que cuando los usuarios navegaban en sus fotos o la de sus contactos, en lugar de ver las imágenes se podían leer frases como “la imagen puede contener: gente sonriendo, gente bailando, foto con dos personas en interiores, rascacielos, árbol, puente, naturaleza” o simplemente “la imagen puede contener: gato” 

Según los expertos, estas “etiquetas” contienen un detalle (no muy profundo) del contexto general de la fotografía, es decir, la escena y objetos, y algunos detalles de reconocimiento facial como por ejemplo, si la persona tiene barba. En algunos casos se pudieron ver nombres de usuarios, que sería el resultado del análisis del algoritmo de reconocimiento facial. Este tipo de identificación es un proceso que la compañía está realizando desde el 2017 en fotos en las que los usuarios no fueron etiquetados. Desde el año 2015, la red social utiliza automáticamente la creación de “textos alternativos” en la información de las fotos. En el 2016, según informa el sitio especializado The Verge, la plataforma había estado utilizando el aprendizaje automático para “leer” las imágenes en el contexto de un programa para la accesibilidad para personas con dificultades de visión. 

ici.Radio-Canada

El problema estuvo presente también en las otras redes sociales de Facebook como Instagram, Whatsapp y en algunos casos hasta en el Messenger con diferentes grados de gravedad. 

Es verdad que la información asociada a la imágen puede ser muy útil para las personas con discapacidad visual. No obstante, lo que se le sigue recriminando a Facebook es lo que estos fallos pueden costar a nivel privacidad de los usuarios, pues esta información puede ser utilizada también por Facebook o por terceros para la venta de productos o para el envío de mensajes y/o anuncios personalizados en caso de elecciones, entre otros. Hace algunos años, se hizo público un movimiento de usuarios de la red social que hicieron campaña para evitar que la gente enviara mensajes con contenido personal para evitar que Facebook recabara información sensible que podría ser utilizada en otro contexto. Lo que este movimiento no había previsto es que con la IA, el aprendizaje automático y otros algoritmos, la plataforma está recopilando este tipo de datos a partir de las fotografías compartidas. 

REUTERS/Dado Ruvic/Illustration

Este fallo de la red social más utilizada en el mundo y sus subsidiarias nos da una muestra de lo lejos que se puede llegar con la IA y el análisis de contenido visual, que se ha vuelto relativamente sencillo para las máquinas. Y también nos da un vistazo de la cantidad de información que estos algoritmos pueden recolectar de algo tan “inocente” como una fotografía. En resumidas cuentas, este tipo de incidentes, permiten a la opinión pública en general, darse cuenta de lo delicado que se ha tornado el uso de las redes sociales para nuestra privacidad.

Fuentes: Facebook, The Verge, ici.Radio-Canada, BBC

Categorías: Internacional, Internet, ciencias y tecnologías
Etiquetas:

¿Encontró un error? ¡Pulse aquí!

Por razones que escapan a nuestro control, y por un período de tiempo indefinido, el espacio de comentarios está cerrado. Sin embargo, nuestras redes sociales siguen abiertas a sus contribuciones.