El error de Alexa

Alexa es el nombre de la inteligencia artificial de Amazon, el gigante estadounidense del comercio electrónico.  Amazon es una de las primeras grandes compañías estadounidenses en vender bienes a través de Internet.

Entre las inteligencias artificiales más conocidas, aparte de Alexa, también tenemos a Siri de Apple, OK Google y Bixby de Samsung, etc.  También se les llama “asistentes virtuales o personales”. Pero para que nos entendamos mejor digamos que un “asistente virtual” es una pequeña máquina que nos escucha constantemente, siempre a la espera de una palabra clave que la active.

Escuche

En el caso de Google, la clave es “Ok Google”. Una vez que el asistente personal está activado, la máquina comienza a analizar todo lo que usted diga. El problema con la inteligencia artificial es que si interpreta mal la palabra clave de activación, se pueden generar ciertos problemas que pueden ser más o menos graves, dependiendo de la interpretación que haga la máquina del pedido.

Cuando Alexa se activa, empieza a grabar y analizar la conversación para ejecutar después una orden, que puede ser por ejemplo: activar la aspiradora, oír tal música, necesito saber la temperatura en tal lugar, qué citas tengo hoy, agrega este nombre a mi agenda, etc, etc. Pascal Forget, cronista y especialista en nuevas tecnologías, explica el error de Alexa o de sus propietarios en Portland, Oregón, Estados Unidos.

Si recapitulamos. La pareja de Oregón, bromeaba siempre sobre si Alexa podía estar escuchando o no sus conversaciones, pero la broma terminó cuando el asistente virtual grabó y envió una de sus conversaciones a uno de sus contactos. El contacto los llamó y les explicó que había recibido la grabación de una conversación de ellos hablando de si cambiaban o no el parqué de la casa.

Hay que comprender aquí, que efectivamente el contexto de la situación es particular. Porque Alexa se activó al escuchar algo que le pareció la palabra clave en una conversación que no pasaba en la misma pieza. Pidió confirmación del nombre de la persona en la lista de contacto a la cual iba a enviar el mensaje audio y volvió a interpretar algo que se parecía a un asentimiento.

La BBC se interesó en el tema y llamó a Amazon para cuestionarlos sobre lo sucedido a lo cual Amazon respondió que “por más improbable que pueda parecer esta cadena de eventos, estamos evaluando opciones para hacer que casos como este sean aún menos probables”. Y a los que se pregunten si hay un espía en su casa tienen que saber lo siguiente, dice Pascal Forget

Google solucionó así su problema, porque el asistente tenía la impresión que se le estaba dando órdenes constantemente y por descuido se activaban algunas acciones. Salvo que son todas situaciones que pueden ocurrir si alguien piratea por ejemplo, nuestro sistema porque el micrófono está abierto en permanencia.

Pero nada detiene a la tecnología y ahora Amazon está probando otro pequeño dispositivo que se llama “Echo Look”. Pascal Forget explica.

En la oficina de un abogado o en un consultorio médico puede ser práctico tener un asistente virtual para que ponga la música por ejemplo, pero si hay alguna conversación privada que es grabada por el sistema, ya ese es otro cantar.

También se puede cambiar la palabra Clave. Ok Google, en francés, inglés o español, aunque al parecer todavía no hay asistentes personales que hablen español, pero en las otras dos lenguas, es más bien raro que digamos algo que se parezca a eso. Pero Alexa sí. Si alguien se llama Alex o cualquier otra palabra que termine en X, puede eventualmente activar el asistente. En ese caso es mejor cambiar la palabra clave y existe otra función que permite desactivar su carnet de direcciones. Y como el sistema no tiene acceso al carnet no puede enviar un mensaje por descuido a alguien.

Escuche

Quizá por el momento no es un problema que les quite el sueño, porque la máquina habla solo inglés y francés en algunos casos. Pero cuando comiencen a hablar español, a lo mejor, y no se los deseo, los problemas también pueden comenzar.

Alain Gravel entrevistó a Pascal Forget.