No distinguen entre amigos y enemigos, pero apuntan, disparan y matan discriminadamente sin la supervisión de nadie. Son máquinas -humanoides, drones o carros de combate - que deciden de manera autónoma cuál es el objetivo a abatir y realizan verdaderas carnicerías (como por ejemplo en Pakistán y Afganistán) donde drones estadounidenses arrasan pueblos enteros matando a miles de inocentes en su búsqueda de ‘terroristas’. Son los llamados ‘muertos colaterales’ de los que nadie se hace responsable. Esta tercera revolución armamentística, tras las armas de fuego y las nucleares, podría tomar los campos de batalla en un futuro cercano. Si caen en manos de terroristas someterían al mundo. Los expertos más destacados en inteligencia artificial continúan batallando por prohibir el uso de estos robots con carta blanca para matar. A finales de otoño el cortometraje ‘Slaughterbots’ se hizo viral. Muestra un porvenir distópico donde los robots automatizados para matar están a la orden del día. Enjambres de drones, minúsculos como insectos, podrían acceder al interior de cualquier recinto, identificarían a sus víctimas mediante una herramienta de reconocimiento facial e impactarían contra su cráneo hasta hacer estallar su cerebro. “El vídeo es más que una especulación. Muestra el resultado de integrar y miniaturizar tecnologías de las que ya disponemos hoy en día”, asegura el autor, Stuart Russell, experto en Inteligencia Artificial en la Universidad de Berkeley en California. “Permitir a las máquinas elegir matar humanos será devastador para nuestra seguridad y libertad”, advierte este profesor de ciencias de la computación. Los ataques del ejército podrían llegar a ser de precisión quirúrgica para evitar muertes colaterales. Pero también un grupo violento extremista podría programar estos robots para, por ejemplo, ejecutar a aquellos que estén difundiendo en sus redes sociales información que les perjudique. No son pocos los ejércitos que están trabajando en el desarrollo de armas autónomas. Muchos expertos cuestionan su desarrollo: “Delegar en una máquina el acto de matar es indigno. Estos robots asesinos no pueden distinguir la actitud de rendición ni tienen compasión. Es cuestión de tiempo que lleguen al mercado negro, caigan en manos de terroristas, de algún dictador que desea controlar más a la población o un jefe militar que quiera matar a una etnia en particular”, reflexionaron cientos de personalidades en una carta, redactada por the Future of Life Institute, del que forman parte personalidades como el visionario empresario Elon Musk o el físico Stephen Hawking. “A diferencia de las armas nucleares, estos robots no requieren materias primas caras, son baratos y terminarían fabricándose en masa”, explican. Una de las armas autónomas más usadas actualmente es Super aEgis II. Tiene el aspecto de una gran ametralladora fija. La máquina tiene capacidad detectar, perseguir con la mirilla y disparar sin que un humano tenga que intervenir. Se usa actualmente en varias localizaciones de Oriente Medio. El diseño original no contaba con la opción de bloquear el arma con una contraseña. Fue incluida a petición de los consumidores porque la máquina no puede distinguir entre amigo y enemigo. Esta tarea debe realizarla un humano, un inconveniente que trabajan actualmente en solventar sus diseñadores. Su deseo es que el robot pueda ser independiente, capaz de decidir.Los robots actuales toman decisiones dirigidas a cumplir su objetivo. Llevan a cabo de manera sensacional tareas concretas, pero son poco flexibles. “Hay robots que juegan al ajedrez mucho mejor que los humanos, pero no tan bien a las damas, aunque sea un juego parecido”, ilustra un experto. La inteligencia artificial todavía no puede computar satisfactoriamente conceptos ambiguos o abstractos. Aún no tenemos ni idea de cómo incorporar elementos éticos en las decisiones que toma un robot. No sabemos cómo hacer que los valores de una máquina estén alineados con los de los humanos. Un robot algorítmico no puede cuestionarse su finalidad. Si lo hiciera ya no sería una máquina, sino un ser vivo pensante. Se podría intentar pre programar todas las rutas de toma de decisiones, pero es demasiado complejo definir con algoritmos el sentido de la justicia o el daño. Los más optimistas auguran que en una década los ingenieros lo lograrán, pero otros lo consideran improbable. En el caso de que ese momento llegue, ¿quién asumiría la culpa si un soldado robot mata inocentes? ¿El fabricante? ¿El programador? ¿La persona encargada del mantenimiento? ¿Aquél que dio la orden de utilizar el arma? Como sabéis, el pasado noviembre se reunieron en Ginebra 86 países para discutir sobre la posible prohibición de las armas autónomas en el marco del Convenio sobre Ciertas Armas Convencionales (CCW), donde se discute la restricción o prohibición de armas que causan daño innecesario. La coalición de ONGs Stop Killer Robots propone desde el inicio del boom de la inteligencia artificial prohibir el desarrollo, producción y uso de armas autónomas, de igual manera que se hizo con los láseres cegadores en los años ochenta, dispositivos que servirían para dejar ciego de manera permanente al enemigo en el campo de batalla. Por el momento, 22 países apoyan la creación de una ley que prohíba estas armas. Este año volverán a reunirse y para el 2019 esperan tener listo un protocolo para frenar la amenaza que representan los robots asesinos para la humanidad :(
