Centro de Montreal. (Foto: iStockphoto)

Congreso NeurIPS sobre la Inteligencia Artificial en Montreal

Durante toda esta semana y hasta el sábado 8 de diciembre, alrededor de 8.500 investigadores especialistas de la Inteligencia Artificial, IA, de todo el mundo se encuentran reunidos  en el Palacio de Congresos de Montreal del 2 al 8 de diciembre en el marco del Congreso NeurIPS (Neural Information Processing Systems) para compartir el fruto de sus investigaciones. Este es el trigésimo segundo congreso de la organización.

Orientada sobre el aprendizaje automático y las neurociencias computacionales, la reunión anual de NeurIPS define las tendencias en investigación y desarrollo en materia de aprendizaje automático, de estadísticas y de inteligencia artificial. Y el hecho que Montreal sea la anfitriona de un congreso que reúne a 8.500 especialistas, que vienen a la metrópolis para discutir de los progresos científicos en el campo del aprendizaje que se encuentra en el centro neurálgico de la Inteligencia Artificial, aumenta su prestigio y su visibilidad en ese campo.

Centro de Montreal. (THE CANADIAN PRESS/Ryan Remiorz)

Entre todos esos científicos se encuentran muchos universitarios y estudiantes de todo el mundo, investigadores de grandes empresas, ingenieros, etc. Pero si se compara a la situación de hoy con la de hace 5 años, es seguro que la presencia industrial es mayor, porque esa ciencia salió de las universidades y hoy se encuentra en manos de las empresas que fabrican productos y servicios, frutos de esa investigación.

La demanda para asistir a este congreso ha aumentado considerablemente en los últimos años, a un punto tal que todas las entradas disponibles para asistir al evento se vendieron en 10 minutos cuando se pusieron en venta el mes de septiembre pasado.  Se puede decir que existe en este momento un fenómeno mundial de interés, de inversión y de desarrollo de nuevos productos y muchos investigadores y estudiantes se interesan en la Inteligencia Artificial.   Y simplemente, entre más investigadores trabajan sobre el tema, más rápido avanza la ciencia, dice Yoshua Bengio, Director científico del Instituto de Algoritmos de Aprendizaje de la Universidad de Montreal  

NeurIPS en Montreal

En esta conferencia se discute más bien de la investigación fundamental pero al mismo tiempo, la razón por la cual hay tantas compañías es porque se recluta mucho personal y tienen kioscos para atraer a los mejores investigadores. Pero el corazón de la conferencia es verdaderamente los intercambios científicos y presentaciones en las que cada uno presenta sus avances en lo que ha seleccionado, porque es una conferencia muy selectiva. Se presentan muchos artículos pero se retienen más o menos el 20%.

(THE CANADIAN PRESS/Nathan Denette)

Uno de los eventos más importantes durante esta semana del Congreso de NeurIPS fue la discusión de la Declaración de Montreal para un Desarrollo Responsable de la Inteligencia Artificial, que fue presentada el martes de esta semana, dice el profesor Yoshua Bengio.

Declaración de Montreal

Esta declaración es un enunciado de principio que ha sido bien estudiada y en la que hay 10 principios y unos 60 sub-principios. Es todo un documento que articula un año y medio de trabajo para trata de identificar los principios éticos que deberían -en la mente de las personas que desarrollan esta ciencia, como las industrias y los gobiernos- guiar los gobiernos que deberán quizá legislar para encuadrar su desarrollo. Porque queremos que esta ciencia se desarrolle para el bien de todos y no sea explotada quizá para discriminar o para fabricar armas inmorales.

 

El Director científico del Instituto de Algoritmos de Aprendizaje de la Universidad de Montreal califica como arma inmoral a los robots que pueden matar de forma autónoma sin la intervención de un humano. De robots capaces de tomar la decisión de eliminar a un ser humano.

El Robot Sofía» de Hanson Robotics, en Hong Kong el 10 de julio 2018. (ISAAC LAWRENCE/AFP/Getty Images)

Y como la Inteligencia Artificial está muy lejos de poder comprender todo el aspecto psicológico y moral de los humanos, delegar entonces una responsabilidad tan grave a una máquina es inaceptable. Además, también está en juego la seguridad nacional si jamás este tipo de armas llega a desarrollarse. Y eso es inquietante, dice Yoshua Bengio.

Un arma diferente

Porque es un tipo de arma muy diferente a lo que conocemos con las armas actuales. Porque permite seleccionar, como se hace con la publicidad que permite escoger qué publicidad conviene a tal persona. Es un tipo de arma que puede con un Dron, identificar a una persona según la imagen del rostro que la máquina verá. Podría también seleccionar a un grupo de personas, políticos de un país por ejemplo y eso es algo que puede desestabilizar mucho.

Yoshua Bengio, Director científico del Instituto de Algoritmos de Aprendizaje de la Universidad de Montreal. (THE CANADIAN PRESS/Graham Hughes)

El problema es que la ciencia que permitiría fabricar ese tipo de armas ya existe. Ya se cuenta con sistemas que pueden hacer un reconocimiento facial de una forma muy precisa, en una base de datos inmensa. Y existen los Dron sobre los cuales ya se ponen armas. Entonces bastaría con ensamblar las dos máquinas y es muy probable que agencias gubernamentales militares estén trabajando ya sobre ese tipo de arma, dice el experto canadiense.

Yoshua Bengio, Director científico del Instituto de Algoritmos de Aprendizaje de la Universidad de Montreal, concluye diciendo que existe casi una unanimidad entre los investigadores que este despliegue no ético de la tecnología no es aceptable y ejercen cierta presión sobre las empresas para que el resultado de sus investigaciones no se utilice contra la democracia.

Alain Gravel entrevistó a Yoshua Bengio

RCI/Internet

Categorías: Internet, ciencias y tecnologías, Sociedad
Etiquetas: , , , , ,

¿Encontró un error? ¡Pulse aquí!

Por razones que escapan a nuestro control, y por un período de tiempo indefinido, el espacio de comentarios está cerrado. Sin embargo, nuestras redes sociales siguen abiertas a sus contribuciones.