La UNESCO advierte que los asistentes de voz refuerzan estereotipos sexistas

La UNESCO (Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, por su sigla en inglés) hizo público un informe en el cual arremete contra los asistentes vocales virtuales de las grandes tecnológicas por considerarlos sexistas, sumisos, seductores y que refuerzan de esta manera, los estereotipos de género perjudiciales en la sociedad actual. Los más famosos y populares asistentes vocales tienen nombres femeninos y están configurados con voces femeninas por defecto y a partir de este hecho, la UNESCO decidió estudiar el impacto que una configuración de estas características podría tener en la representación de la mujer. A grandes rasgos, el extenso informe sugiere que la feminización de estos sistemas propenden a acentuar los estereotipos machistas.

Los asistentes vocales más populares como  “Siri” de Apple, “Alexa” de amazon y “Cortana” de Microsoft están diseñados para ser percibidos como femeninos, desde sus nombres hasta las voces y personalidades dice el estudio de la UNESCO. Según la investigación, la gran mayoría están programados para parecer sumisos y serviles, con respuestas consideradas y cordiales en casos de insultos, lo que según el estudio refuerzan los prejuicios de género y normalizan el acoso sexista.

iStockPhoto.com

Dicho artículo, fue titulado “I’d blush if I could”, o “Me sonrojaría si pudiera”, que es efectivamente la respuesta que el asistente “Siri” de Apple ofrece cuando recibe ciertos comandos sexualmente explícitos o cuando es insultado directamente con la palabra “Puta”.  El estudio indica que “dicha sumisión ante el abuso de género, así como el servilismo expresado por otros asistentes de voz digitales proyectados como mujeres jóvenes, proporciona una potente muestra sobre los sesgos de género codificados en los productos tecnológicos”.

Los asistentes de voz más populares
Siri (Apple): nombre nórdico que significa “mujer hermosa que te conduce a la victoria”. Al mismo tiempo, es la sigla de “Speech Interpretation and Recognition Interface”.  A tener en cuenta, En Reino Unido, Francia y Alemania, Siri por defecto tiene voz de hombre.

Alexa (Amazon): su nombre proviene de la  antigua librería de Alejandría, en el Egipto antiguo. Su nombre es, sin duda, femenino.

Cortana (Microsoft): el nombre viene de un personaje de ficción de inteligencia artificial del popular videojuego “Halo” cuya representación es un holograma de una mujer sensual semidesnuda.

Asistente de Google (Google): es el único que tiene un nombre neutral en cuanto al género, pero la voz por defecto es femenina.

En otro segmento del estudio, se estipula que uno de los problemas es que las tecnológicas no han logrado establecer las salvaguardas adecuadas contra el lenguaje hostil, abusivo y de género. En un artículo publicado en la revista digital The Verge, quien retoma el estudio de la UNESCO, se indica que las compañías como Apple y Amazon, tienen equipos que están compuestos mayormente por personal de ingeniería masculinos, y han construido estos sistemas de inteligencia artificial con voces femeninas que saludan el abuso verbal con cierto coqueteo o bromas astutas. En definitiva, estos asistentes no tienen poder de representación más allá de lo que el usuario pida. Cumple órdenes y responde a preguntas sin importar el tono o el lenguaje; todo esto con nombre y voz de mujer por defecto.

El diario español El Mundo publicó a fines del año 2018, una noticia que hablaba justamente de la misma problemática. En ese caso, una empresa de publicidad de Madrid, llamada Tango, en conjunto con la Confederación Nacional de Mujeres en Igualdad y la Asociación de Hombres por la Igualdad de Género de ese país se pusieron manos a la obra y crearon una campaña llamada “Voces en igualdad”, para pedir a las tecnológicas que sus asistentes virtuales dejen de tener voz de mujer. En ese momento, los hacedores de esta campaña pregonaban que “los estereotipos de género están tan instaurados en la vida cotidiana que pasan desapercibidos”. En España, no sólo “Siri” de Apple, “Cortana” de Microsoft, “Byxby” de Samsung y “Alexa” de Amazon, tienen voz de mujer. “Irene” la voz y asistente de Renfe (Red Nacional de los Ferrocarriles Españoles), “Aura” de la telefónica Movistar, y “Sara”, de la empresa de nacional de correos, están creados con voces o con una identidad femenina que finalmente proyectan una imagen de mujer. En el caso español, los impulsores de dicha campaña denunciaron que esta decisión se debe a que diversos estudios indicaron que “los usuarios en general prefieren interactuar con mujeres” pues la voz femenina es percibida como más servicial, en lugar de la masculina, asociada con autoridad”.

El Logo de la UNESCO – REUTERS/Philippe Wojazer

Dentro del estudio de la UNESCO, se destacaron cinco problemas precisos con respecto a los asistentes de voz:

  • Reflejan, refuerzan y ​​propagan los sesgos de género.
  • Modelan la aceptación del acoso sexual y el abuso verbal entre los usuarios móviles.
  • Envían mensajes sobre cómo las mujeres y las niñas deben responder a las solicitudes y cómo expresarse.
  • Hacen que indirectamente las mujeres sean el “rostro” de los fallos y errores del propio asistente. Que dicho sea de paso, en su mayoría fueron diseñados por hombres.
  • Obligan a una voz y personalidad sintética “femenina” a seguir las órdenes.
En otro segmento de la investigación se sugiere con énfasis que esta problemática tiene que ver con la configuración inicial del campo de investigación en Inteligencia Artificial. El sitio The Verge indica que, un estudio publicado el mes pasado, demuestra que todo lo que rodea la IA es predominantemente blanco y masculino. El 80% de los académicos en este área son hombres y sólo el 15% de los investigadores de IA en Facebook y el 10% en Google son mujeres.  
En resumidas cuentas, el organismo de la ONU plantea posibles soluciones. Una de ellas es que los asistentes tengan voces masculinas o en su defecto una voz neutral y robótica, sin una distinción de género precisa. Otra de las propuestas es sistematizar los asistentes vocales para que programen respuestas que no sean reflejo de sumisión o que resulten insultantes. La idea es tratar de dejar de tratar a los asistentes de voz como a un ser humano inferior y subalterno dejando claro que se trata de entidades tecnológicas no humanas.

Hasta el momento, ni Apple, Amazon o Microsoft se han manifestado en relación al reporte de la UNESCO.

Fuentes: UNESCO, Reuters, The Verge, Le Monde,  La Jornada, El Mundo.es

Categorías: Internacional, Internet, ciencias y tecnologías, Sociedad
Etiquetas:

¿Encontró un error? ¡Pulse aquí!

Por razones que escapan a nuestro control, y por un período de tiempo indefinido, el espacio de comentarios está cerrado. Sin embargo, nuestras redes sociales siguen abiertas a sus contribuciones.