Facebook desactiva a dos 'chatbots' que habían creado un lenguaje propio e incomprensible

Todo iba bien. Facebook trabajaba en su enésimo proyecto de inteligencia artificial y había creado dos 'chatbots' para investigar nuevos mecanismos de compraventa online. Buscaban idear unos protocolos eficientes para, más tarde, poder confiar en que un robot gestionase los sistemas de comercio y las comunicaciones de servicio de atención al cliente. Pero, durante el proceso, algo llamó la atención de los expertos que dirigían la investigación, algo que les ha llevado a tomar una decisión drástica. Los responsables del proyecto decidieron desactivar a los dos software tras darse cuenta de que habían comenzado a hablar en un idioma propio, cifrado, e incomprensible para el ser humano.

Ambos chatbots habían sido programados para trabajar en la negociación y depurar el sistema de regateo y trueque. Debían hacerlo en inglés, pero ningún protocolo especificaba que ese inglés debía ser el tradicional, el usado por el hombre. Por eso, y porque las máquinas entendieron que el lenguaje humano está trufado de términos inservibles, reorganizaron las palabras para crear un idioma más productivo que solo ellos entendían. "No hubo recompensa por seguir el idioma inglés. Por eso, a medida que estos dos agentes compitieron para obtener el mejor trato, comenzaron a divergir, reorganizando eventualmente las palabras legibles en frases aparentemente absurdas", explicaba Dhruv Batra, investigador experto en inteligencia artificial y participante del proyecto de Facebook.

La histeria se ha desatado en las redes, porque muchos ven ya el inicio de una guerra entre el hombre y la máquina y una puerta abierta a la revolución de la tecnología. Aunque la explicación de Facebook es menos alarmante: consideran que esta 'rebelión' se trata únicamente de un error de programación. Que, de haber especificado en los protocolos que los robots debían usar el inglés tradicional, nada de esto hubiera pasado. Que, simplemente, las máquinas trataban de hacer su trabajo de la mejor forma posible. Y que la decisión de desconectarlos ha sido motivada únicamente por la necesidad de crear sistemas de comunicación comprensibles también para el hombre.

La realidad es que Facebook los ha destruido porque no podía entenderlos. Y lo que no se entiende es, casi siempre, imposible de controlar.