¿Es posible perder el control de una inteligencia artificial (AI)? Investigadores de la división de Facebook conocida como Facebook Artificial Intelligence Researchers (FAIR, por sus siglas en inglés), han descubierto que dos 'bots' o agentes de diálogo desarrollados por la compañía habían creado su propio lenguaje, por lo que ha tenido que detener las pruebas que estaban realizando y desactivarlos inmediatamente. De acuerdo con el portal The Next Web, los investigadores dejaron a los agentes de dialogo Bob y Alice conversar libremente con el objetivo de fortalecer sus habilidades de diálogo, pero se dieron cuenta que, los 'bots' se desviaron del inglés y comenzaron a comunicarse en un lenguaje completamente nuevo. Al principio pensaban que era un error, pero se pudo comprobar que sí, que se estaban comunicando en un lenguaje nuevo y desarrollado por ‘ellos’. Se trata de un lenguaje creado por el 'software' sin aporte humano, destaca el medio. El problema que esto representa para los desarrolladores de IA es que si un sistema de inteligencia artificial decidiera ignorar el idioma en el que fue programada y crear el suyo propio por ser ‘más eficiente’, esto supondría una enorme dificultad para el desarrollo y la adopción de redes neuronales y, en general, para la creación de nuevas tecnologías basadas en la IA. Básicamente, si la IA lo quisiera, sería imposible comunicarnos con ella. Esto significa un grave riesgo ya que supondría la pérdida de control del programador u operador sobre la inteligencia artificial, que adquiriría ‘vida propia’. Un lenguaje que no entendamos podría llegar a ser muy peligroso. Es por ese motivo, que Facebook apagó este sistema antes de que perdieran el control por completo, para trabajar en soluciones y seguir innovando en la materia. No es la primera vez que esto sucede, dado que a Google también se le salió de control el lenguaje de una IA que había desarrollado. Curiosamente, el judío Mark Zuckerberg defendió el desarrollo y los avances en materia de inteligencia artificial luego de que Elon Musk hablara de regular la inteligencia artificial antes de que fuera demasiado tarde, porque su existencia es un riesgo para nuestra civilización. Por lo visto, no estaba equivocado :(
