(REUTERS/Charles Platiau)

Fallo en línea de Facebook e Instagram deja entrever cómo la IA etiqueta las fotos

Share

El miércoles 3 de julio fue un día especial para los usuarios de Facebook y de Instagram. Un fallo que afectó a las redes sociales a nivel mundial, permitió ver etiquetas en lugar de las fotos de los usuarios de las plataformas con palabras (etiquetas) asignadas por los sistemas internos de IA (Inteligencia artificial). De esta manera y gracias a dicho incidente, los usuarios pudieron ver cómo es que la IA ve el contenido en imágenes desde su punto de vista. 

Desde la compañía, un mensaje fue enviado explicando que, durante operaciones de mantenimiento de rutina, se presentó un problema que dificulta que ciertos usuarios carguen o envíen fotos y videos, y que los equipos técnicos trabajaban para volver el servicio a la normalidad. Luego de aproximadamente ocho horas, Facebook tuiteó un nuevo mensaje que el problema o falla había sido resuelto. 

Según reporta un artículo de la BBC, la plataforma DownDetector, un sitio web que se especializa en monitoreo en tiempo real en la red, el 86% de las quejas reportadas tenían que ver con el uso de las imágenes, mientras que un 8% reportó problemas con el feed de noticias. 

El problema provocó que cuando los usuarios navegaban en sus fotos o la de sus contactos, en lugar de ver las imágenes se podían leer frases como “la imagen puede contener: gente sonriendo, gente bailando, foto con dos personas en interiores, rascacielos, árbol, puente, naturaleza” o simplemente “la imagen puede contener: gato” 

Según los expertos, estas “etiquetas” contienen un detalle (no muy profundo) del contexto general de la fotografía, es decir, la escena y objetos, y algunos detalles de reconocimiento facial como por ejemplo, si la persona tiene barba. En algunos casos se pudieron ver nombres de usuarios, que sería el resultado del análisis del algoritmo de reconocimiento facial. Este tipo de identificación es un proceso que la compañía está realizando desde el 2017 en fotos en las que los usuarios no fueron etiquetados. Desde el año 2015, la red social utiliza automáticamente la creación de “textos alternativos” en la información de las fotos. En el 2016, según informa el sitio especializado The Verge, la plataforma había estado utilizando el aprendizaje automático para “leer” las imágenes en el contexto de un programa para la accesibilidad para personas con dificultades de visión. 

ici.Radio-Canada

El problema estuvo presente también en las otras redes sociales de Facebook como Instagram, Whatsapp y en algunos casos hasta en el Messenger con diferentes grados de gravedad. 

Es verdad que la información asociada a la imágen puede ser muy útil para las personas con discapacidad visual. No obstante, lo que se le sigue recriminando a Facebook es lo que estos fallos pueden costar a nivel privacidad de los usuarios, pues esta información puede ser utilizada también por Facebook o por terceros para la venta de productos o para el envío de mensajes y/o anuncios personalizados en caso de elecciones, entre otros. Hace algunos años, se hizo público un movimiento de usuarios de la red social que hicieron campaña para evitar que la gente enviara mensajes con contenido personal para evitar que Facebook recabara información sensible que podría ser utilizada en otro contexto. Lo que este movimiento no había previsto es que con la IA, el aprendizaje automático y otros algoritmos, la plataforma está recopilando este tipo de datos a partir de las fotografías compartidas. 

REUTERS/Dado Ruvic/Illustration

Este fallo de la red social más utilizada en el mundo y sus subsidiarias nos da una muestra de lo lejos que se puede llegar con la IA y el análisis de contenido visual, que se ha vuelto relativamente sencillo para las máquinas. Y también nos da un vistazo de la cantidad de información que estos algoritmos pueden recolectar de algo tan “inocente” como una fotografía. En resumidas cuentas, este tipo de incidentes, permiten a la opinión pública en general, darse cuenta de lo delicado que se ha tornado el uso de las redes sociales para nuestra privacidad.

Fuentes: Facebook, The Verge, ici.Radio-Canada, BBC

Share
Categorías: Internacional, Internet y tecnología
Etiquetas:

¿Encontró un error? ¡Pulse aquí!

@*@ Comments

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

 caracteres disponibles

Aclaración: al enviarnos su comentario, usted reconoce que Radio Canadá Internacional tiene derecho a reproducir y a difundir el mismo, total o parcialmente, de la forma que fuere. Cabe destacar que Radio Canadá Internacional no endosa las opiniones vertidas por los internautas. Sus comentarios serán leídos y publicados si respetan las condiciones de nuestro sitio internet, aquí denominadas “Netiquette”.

Reglas de utilización »

Al verter sus opiniones en un foro público, debe ser igual de cortés que si estuviera frente a un interlocutor. No se tolerarán ataques ni insultos personales. Una cosa es no estar de acuerdo con una opinión, una idea o un hecho, y otra es faltar el respeto al prójimo. Las personas elocuentes no siempre están de acuerdo, y justamente ahí reside el interés de los foros.

La "netiquette" es el conjunto de reglas de conducta que rigen el comportamiento de los internautas. Antes de intervenir en una tribuna, es importante conocer estas reglas. Caso contrario, usted corre el riesgo de ser expulsado.

  1. Los foros de RCInet.ca no son anónimos. Al inscribirse, los usuarios deben ingresar su nombre, apellido y lugar de residencia. Estos datos aparecerán junto al comentario. RCInet.ca se reserva el derecho de no publicar un comentario si duda de la identidad de su autor.
  2. La usurpación de identidad con la intención de inducir a error o de perjudicar a un tercero es una infracción grave plausible de expulsión.
  3. Los foros de RCInet.ca están abiertos a todos, sin distinción de edad, origen étnico, religión, género ni orientación sexual.
  4. Las declaraciones difamatorias, agresivas, racistas, xenófobas, homofóbicas, sexistas o prejuiciosas hacia algún origen étnico, religión o franja etaria no serán publicadas.
  5. En Internet, las mayúsculas equivalen a gritos y pueden ser interpretadas como un signo de agresividad, lo cual resulta desagradable para los demás. Todo mensaje que contenga una o varias palabras en mayúscula (con excepción de las siglas y los acrónimos) será rechazado. Igual suerte correrán los mensajes que contengan una o varias palabras en letra negrita, itálica o subrayada.
  6. El lenguaje vulgar, obsceno o malintencionado está prohibido. Los foros son lugares públicos y sus declaraciones podrían herir la sensibilidad de otros internautas. Las personas que utilicen un lenguaje grosero serán expulsadas.
  7. El respeto mutuo es una condición de base. Por eso mismo está prohibido injuriar, amenazar o acosar a otro usuario. Usted puede expresar su desacuerdo sin atacar al prójimo.
  8. El intercambio de opiniones y puntos de vista discordantes es un elemento clave en todo debate sano, pero no debe transformarse en un diálogo ni en una discusión privada entre dos participantes que se interpelan sin importarles lo que piensen los demás. Los mensajes de esta naturaleza no serán publicados.
  9. Radio Canadá Internacional emite en cinco lenguas. Los debates en los foros deben realizarse en la misma lengua que el contenido al que hacen referencia. El uso de otras lenguas, con excepción de unas pocas palabras, está prohibido.
  10. Los mensajes que no tengan relación con el tema comentado no serán publicados.
  11. El envío reiterado de un mismo mensaje perjudica el intercambio de opiniones y por ende no será tolerado.
  12. La inserción de imágenes o de cualquier otro tipo de archivo en un comentario está prohibida. La inclusión de hipervínculos hacia otros sitios está permitida, a condición de que se respete la “netiquette”. Sin embargo, Radio Canadá Internacional no es responsable del contenido de estos sitios externos.
  13. La copia de texto de un tercero, aun cuando se incluya la referencia al autor, es inaceptable si la citación constituye la mayor parte del comentario.
  14. La publicidad y la convocación a movilizaciones, de cualquier forma que fuere, está prohibida en los foros de Radio Canadá Internacional.
  15. Todos los comentarios y contenidos son evaluados antes de su publicación. Radio Canadá Internacional se reserva el derecho de no publicar los mensajes de los internautas.
  16. En todo momento y sin preaviso, Radio Canadá Internacional se reserva el derecho de cerrar un foro.
  17. Radio Canadá Internacional se reserva el derecho de modificar este conjunto de reglas de conducta (netiquette) en cualquier momento y sin preaviso.
  18. Al participar en un foro, usted autoriza a Radio Canadá Internacional a publicar sus comentarios en Internet por un periodo de tiempo indeterminado. Esto significa asimismo que los mensajes serán indexados por los motores de búsqueda de Internet.
  19. Radio Canadá Internacional no está obligada, bajo ningún punto de vista, a retirar sus comentarios de Internet, aunque usted así lo requiriere. Por este motivo, le rogamos que reflexione detenidamente sobre el contenido y las posibles consecuencias de los mensajes que nos envía.

*