Pasar al contenido principal

ES / EN

El experimento con IA de Facebook que debió ser apagado al salirse de control
Miércoles, Agosto 2, 2017 - 15:30

Dos chatbots dejaron de hablar en inglés, el lenguaje en el que fueron programadas, y comenzaron a conversar en un idioma propio que ellas mismas inventaron.

La gigante de internet Facebook no sólo se dedica mantener sus famosas redes sociales, sino que además está emprendiendo en otras áreas de la tecnología, siendo una de ellas la inteligencia artificial.

En su departamento de Investigación en Inteligencia Artificial (IA), la compañía creó programas llamados chatbot, los cuales tienen por objetivo aprender a negociar en contextos de comercio y trueque tal como hacen los humanos, imitando nuestras formas de comunicación.

Dos de estos robots son Alice y Bob, los cuales fueron conectados por los ingenieros para ver cómo negociaban entre ellos.

No obstante, el experimento dio un perturbador giro cuando ambas IA dejaron de hablar en inglés, el lenguaje en el que fueron programadas, y comenzaron a conversar en un idioma propio que ellas mismas inventaron.

Los ingenieros, que no tenían idea qué estaban diciendo los robots, tuvieron que apagarlos, reportó el periódico inglés Telegraph.

Los indagadores creen que los programas habrían decidido abandonar el inglés porque su negociación en esa lengua humana no estaba dando ningún resultado positivo.

Así lo indicó Dhruv Batra, investigador que colabora con Facebook, al portal sobre tecnología FastCo, donde explicó que “no hubo recompensa al utilizar el idioma inglés”.

Debido a esa razón, “los agentes se alejaron del lenguaje entendible e inventaron palabras clave para ellos mismos. Es como si yo dijera ‘eso’ cinco veces y tú interpretaras que ello significa que quiero cinco copias de un producto”.

Es decir, idearon una suerte de código para comprenderse mutuamente con más facilidad, algo que “no es muy diferente a la forma en que las comunidades de humanos crean abreviaturas”, sostuvo Batra.

Tras apagar las IA, los investigadores no fueron capaces de descifrar el código en que éstas estaban conversando.

No obstante, afirmaron que el proyecto es un importante paso hacia crear programas que puedan razonar, conversar y negociar.

 

Autores

Biobiochile.cl