Cuando se hizo del conocimiento público que Facebook había tenido que apagar un sistema experimental de inteligencia artificial (IA) porque este, básicamente, empezó a desarrollar un lenguaje propio, la mayoría de la gente lo tomó como anecdótico o sin importancia pero en realidad es un tema bastante complejo.
El proyecto se resume en un sistema para negociar entre dos agentes computacionales "Bob" y "Alice", sus creadores querían demostrar cómo las máquinas participantes podían aprender a este complejo proceso para llegar a acuerdos en común hasta que algo se salió de control.
En un momento dado, los diseñadores del experimento observaron que las conversaciones entre "Bob" y "Alice" parecían no tener sentido alguno; sin embargo, notaron que la negociación continuaba a pesar del sinsentido que las frases parecían tener, lo que significaba que habían logrado una resignificación del código conversaciones inicial.
A partir del uso de la gramática del inglés, los agentes computacionales desarrollaron una nueva significación del código primario con una sintaxis completamente distinta, lo que representa la invención de un nuevo código de comunicación desconocido por los programadores. Las máquinas se emanciparon de sus creadores y desarrollaron su propio lenguaje.
En la parte positiva del experimento, es posible que los diseñadores del mismo hayan podido recrear, de manera (muy) acelerada, la manera en la que surgieron los distintos lenguajes a partir de uno mismo y la resignificación de algunos vocablos o estructuras en función de los intereses de determinados grupos, es decir, cómo evolucionó el lenguaje humano hasta su diversificación.
Pero por el lado negativo, la trascendencia del experimento fallido de Facebook radica en la confirmación de un temor muy grande de los críticos de este tipo de tecnología: la posibilidad de que una máquina evolucione a un nivel en el que se pierda el control de ella por completo es total y absolutamente real.
En la era del Internet de las cosas, el que exista la simple posibilidad de que las máquinas sean capaces de crear y desarrollar un lenguaje, un modo de comunicación entre sí, ajeno a la capacidad de entendimiento de los humanos, desata todas las pesadillas juntas sobre la IA.
No solo es un tema del tiempo y dinero perdido en el desarrollo del experimento, es un asunto mucho más delicado que debe ser analizado a fondo por los especialistas, tanto por los resultados positivos como por los riesgos que implica, es una labor que debe hacerse pronto, antes de que sea demasiado tarde.
