El miércoles 3 de julio fue un día especial para los usuarios de Facebook y de Instagram. Un fallo que afectó a las redes sociales a nivel mundial, permitió ver etiquetas en lugar de las fotos de los usuarios de las plataformas con palabras (etiquetas) asignadas por los sistemas internos de IA (Inteligencia artificial). De esta manera y gracias a dicho incidente, los usuarios pudieron ver cómo es que la IA ve el contenido en imágenes desde su punto de vista.
Desde la compañía, un mensaje fue enviado explicando que, durante operaciones de mantenimiento de rutina, se presentó un problema que dificulta que ciertos usuarios carguen o envíen fotos y videos, y que los equipos técnicos trabajaban para volver el servicio a la normalidad. Luego de aproximadamente ocho horas, Facebook tuiteó un nuevo mensaje que el problema o falla había sido resuelto.
Según reporta un artículo de la BBC, la plataforma DownDetector, un sitio web que se especializa en monitoreo en tiempo real en la red, el 86% de las quejas reportadas tenían que ver con el uso de las imágenes, mientras que un 8% reportó problemas con el feed de noticias.
One nice thing about Facebook being utterly borked right now is it gives you a chance to see what its (very nice!) accessibility feature auto-alting images does.https://t.co/a3w9PcOosR pic.twitter.com/dnTXOih8Hp
— Dieter Bohn (@backlon) July 3, 2019
El problema provocó que cuando los usuarios navegaban en sus fotos o la de sus contactos, en lugar de ver las imágenes se podían leer frases como “la imagen puede contener: gente sonriendo, gente bailando, foto con dos personas en interiores, rascacielos, árbol, puente, naturaleza” o simplemente “la imagen puede contener: gato”
Según los expertos, estas “etiquetas” contienen un detalle (no muy profundo) del contexto general de la fotografía, es decir, la escena y objetos, y algunos detalles de reconocimiento facial como por ejemplo, si la persona tiene barba. En algunos casos se pudieron ver nombres de usuarios, que sería el resultado del análisis del algoritmo de reconocimiento facial. Este tipo de identificación es un proceso que la compañía está realizando desde el 2017 en fotos en las que los usuarios no fueron etiquetados. Desde el año 2015, la red social utiliza automáticamente la creación de “textos alternativos” en la información de las fotos. En el 2016, según informa el sitio especializado The Verge, la plataforma había estado utilizando el aprendizaje automático para “leer” las imágenes en el contexto de un programa para la accesibilidad para personas con dificultades de visión.
ici.Radio-Canada
El problema estuvo presente también en las otras redes sociales de Facebook como Instagram, Whatsapp y en algunos casos hasta en el Messenger con diferentes grados de gravedad.
REUTERS/Dado Ruvic/Illustration
Este fallo de la red social más utilizada en el mundo y sus subsidiarias nos da una muestra de lo lejos que se puede llegar con la IA y el análisis de contenido visual, que se ha vuelto relativamente sencillo para las máquinas. Y también nos da un vistazo de la cantidad de información que estos algoritmos pueden recolectar de algo tan “inocente” como una fotografía. En resumidas cuentas, este tipo de incidentes, permiten a la opinión pública en general, darse cuenta de lo delicado que se ha tornado el uso de las redes sociales para nuestra privacidad.
Fuentes: Facebook, The Verge, ici.Radio-Canada, BBC
Por razones que escapan a nuestro control, y por un período de tiempo indefinido, el espacio de comentarios está cerrado. Sin embargo, nuestras redes sociales siguen abiertas a sus contribuciones.