Para aquellos que pasan mucho tiempo navegando en internet y tienen una vida activa en las redes sociales conocen de que se trata, para aquellos que no, el concepto Trol (del inglés “troll”) hace referencia a una persona que publica mensajes con tono provocador o misivas irrelevantes en las diversas plataformas de la red de redes. Google ha decidido luchar con estos sembradores de discordia y presenta “Perspective”, una herramienta basada en inteligencia artificial que identifica los “comentarios nocivos”, los revisa y los analiza para luego excluirlos de una conversación.
El acoso en la red es una realidad, y los comentarios y mensajes negativos llevaron a grandes empresas a tomar decisiones drásticas, como por ejemplo, cerrar los foros de discusión de sus páginas de internet para evitar el llamado ambiente “tóxico” gracias a la participación de los “trols”. IMDB, uno de los sitios especializados más importantes para los cinéfilos anunció el cierre de sus foros para luchar con este flagelo.
Y una de las empresas más importantes de informática del mundo, estamos hablando de Google, decidió luchar contra este problema y anunció el lanzamiento de una herramienta para contrarrestar esta plaga. Se trata de una tecnología, que si bien está en fase de desarrollo, promete ayudar en esta contienda. “Perspective” es una herramienta de código abierto, lo que permite que sea utilizada por todo el mundo de forma gratuita. Jigsaw, una rama del gigante informático antes conocida como Google Ideas, fue quien desarrolló el código para hacer frente a los trols. Jared Cohen, presidente de Jigsaw, aseguró que “el objetivo es empoderar a los editores de publicaciones y plataformas para que ellos pueden decidir lo que se puede o no decir en sus páginas webs”.
“Perspective” utiliza “machine learning”, un sub-campo de la informática que permite al algoritmo aprender de forma automática, utilizando millones de datos para poder identificar patrones complejos, en este caso, partiendo de la base de la utilización del lenguaje.
A ciencia cierta, este algoritmo hará una primera clasificación y valoración de los comentarios considerados tóxicos o que contengan cierto grado de violencia y luego quedará en manos de los editores de contenidos para decidir qué hacer con ellos.
Los testeos preliminares del algoritmo basado en el autoaprendizaje fueron realizados con el prestigioso periódico estadounidense “The New York Times”, que recibe más de 11 mil comentarios diarios que son revisados y analizados a mano antes de ser puestos en línea. Los responsables de “Perspective” explicaron que “se colaboró con este periódico para entrenar una serie de modelos que permitan a los moderadores del Times clasificar los comentarios con mayor rapidez, y para ayudarles a habilitar comentarios en más artículos cada día”.
El algoritmo es dinámico, y si bien se le enseña a reconocer los mensajes tóxicos a partir de una base de datos predeterminada, aprende y se entrena con el paso del tiempo y con el constante análisis de comentarios que en definitiva es la base del “machine learning”. Luego, es el propio algoritmo que decide basado en su propio aprendizaje. Es obvio que durante el período de entrenamiento el algoritmo cometerá errores y es por eso que Google confía plenamente en la revisión de los editores para alimentar correctamente a “Perspective” y así afinar la detección de comentarios insultantes.
Por el momento, la herramienta está disponible en inglés solamente, y es en ese idioma que realiza la clasificación de los textos. El proyecto prevé el desarrollo en la mayor cantidad de idiomas posibles en un plazo de no más de dos años en conjunto con otros desarrollos de Google.
Fuentes: Google, Wwwhat’s new, El País, Xataka,
Por razones que escapan a nuestro control, y por un período de tiempo indefinido, el espacio de comentarios está cerrado. Sin embargo, nuestras redes sociales siguen abiertas a sus contribuciones.