En la mitología celta, Taranis era el dios del trueno. El Thor de los galos. En la industria de la guerra en cambio, Taranis es un arma autónoma: un avión de combate que no necesita ayuda humana para levantar el vuelo, recopilar información, desplegar armas en territorio enemigo y volver a casa. Pero sí necesita autorización: "En todo momento Taranis estará controlado por un equipo de tierra altamente capacitado", asegura BAE System, fabricante líder en este proyecto que aún está en pruebas. Cuando el humano sale de la ecuación, la comunidad internacional se lleva las manos a la cabeza. "Lo peligroso es que sea autónoma la decisión de generar violencia. La decisión de matar", explica Pere Brunet, investigador del Centro Delàs de Estudios por la Paz. El problema no es que un vehículo armado pueda desplazarse entre dos puntos sin un conductor al mando sino que sea capaz de desencadenar un ataque de consecuencias potencialmente letales porque así lo han razonado sus algoritmos. "No puede no haber control en el momento en que se ejecuta algo violento", insiste Brunet. Como sabéis, la potencial amenaza de las armas autónomas letales fue lo que convenció a más de un centenar de compañías de inteligencia artificial y robótica para dar la voz de alarma en una carta abierta: "Una vez desarrolladas, estas armas permitirán que los conflictos armados se planteen a unas escalas mayores que nunca y en rangos de tiempo más veloces que las que puede comprender el ser humano. Estas pueden ser armas de terror, armas que déspotas y terroristas pueden usar contra población inocente. Una vez abierta la caja de Pandora, será difícil cerrarla". Estas palabras las firmaron en agosto pasado Elon Musk (Tesla) y Mustafa Suleyman (DeepMind), entre otros representantes de empresas de robótica e inteligencia artificial. Su destino era la convención sobre ciertas armas convencionales(CCW) de la ONU, a la cual correspondería tomar cartas en el asunto de controlar esta tecnología: "Si esto no se regula, desgraciadamente la industria va a continuar con lo que es rentable", lamenta Brunet. Taranis, que tiene pasaporte británico, es una de las 381 armas incluidas por el Instituto Internacional de Estudios para la Paz de Estocolmo (Sipri) en su dataset sobre autonomía en sistemas de armas. Esta propiedad no es nueva. De acuerdo con el registro del centro sueco, allá por 1957, se introdujo el misil ruso S-75 Dvina, cuyo radar monitorizaba continuamente el blanco y corregía la trayectoria en tiempo real. Esta es la idea básica de las armas autónomas modernas (y la autonomía en general): sensores que recopilan datos del entorno se combinan con software desarrollado para interpretarlos y definir planes de acción. Desde el punto de vista militar, el desarrollo de esta tecnología permitiría desplegar fuerzas a una velocidad mayor que la que posibilitan las capacidades humanas, "con mayor agilidad, precisión y alcance", explica Sipri. Además, un hipotético enjambre de robots autónomos podría operar en grandes grupos de una manera mucho más coordinada, estratégica y estructurada. Y en última instancia, se ahorrarían costes. Por ejemplo, el buque no tripulado Sea Hunter, desarrollado por Darpa -la agencia de proyectos de investigación del Departamento de Defensa de Estados Unidos-, es capaz de navegar sin timonel durante meses por unos relativamente baratos 15.000 dólares diarios. "La autonomía ya es una realidad en el desarrollo y uso de sistemas de armas", recogía el informe publicado por Sipri en noviembre. Sin embargo, la autonomía total que necesitaría ese enjambre de robots y contra la que se han rebelado colectivos como el que apoya la campaña Stop Killer Robots, aún no está en el campo de batalla. "Hay mucho desarrollado en inteligencia artificial, pero queda mucho más por hacer. Si esto se desmadra, no sé dónde podríamos acabar", razona José Manuel del Río, director ejecutivo de Aisoy Robotics. Su nombre y el de su empresa también están en la carta enviada a la CCW. "Nosotros somos todo lo opuesto al campo armamentístico", asegura Del Río. Este contraste es parte del problema. Las mismas tecnologías que Aisoy utiliza para desarrollar robots educativos con inteligencia artificial emocional sirven a los más de doscientos fabricantes que aparecen en el listado de Sipri para avanzar la guerra sin manos (humanas). "En Aisoy hacemos inteligencia artificial emocional, para desarrollar capacidades humanas, como la creatividad, la resolución de problemas, el trabajo en equipo... Pero esas capacidades también pueden usarse para el mal. Desde el punto de vista humano, hay personas que utilizan su capacidad creativa para hacer daño. Lo mismo ocurre con la inteligencia artificial: tiene un potencial que mal usado puede ser devastador", explica. Las primeras gotas de autonomía las puso Rusia en la defensa antiaérea, con su S-75 Dvina. Estos sistemas son ahora el tercer campo más prolífico para las armas autónomas, con 56 armas registradas por Sipri, solo por detrás de las aeronaves no tripuladas (126) y los sistemas terrestres no tripulados (70). A este arsenal han contribuido especialmente Estados Unidos, Israel y Rusia: entre los tres, concentran la mitad de las armas del listado. "No hay aún por el momento, una carrera armamentista por la autonomía", sentencia el informe de Sipri. De los diez mayores productores de armas del mundo, solo Estados Unidos ha manifestado oficialmente que la autonomía es un componente central de su estrategia para el futuro. Si embargo, también se sabe que este aspecto es parte principal de la estrategia del Reino Unido, Francia, Rusia, Japón, Corea del Sur y China, quienes han expresado su interés. Los primeros pasos de esta carrera no declarada nos llevarán antes a una guerra por control remoto que según Brunet tampoco está exenta de peligros: "Hay una increíble contradicción en la sociedad actual. Los países avanzados tienen abolida la pena de muerte. Curiosamente en algunos hasta hemos visto juicios por muertes extrajudiciales. Y por otra parte se está pensando en matar en tres niveles: el de las armas tradicionales, el de los drones con los que alguien en Estados Unidos mata a miles de inocentes en Afganistán - las llamadas ‘victimas colaterales’ - y por último, aquel en que ya no hay control humano". Sin embargo, el que fuera secretario de Defensa estadounidense hasta el pasado mes de julio no se cansó de prometer que sus aproximaciones a la guerra autónoma se parecen más a Iron Man que a Terminator: "La máquina asiste a un humano que está en control en todos los sentidos, pero le hace mucho más poderoso y capaz", explicaba. Lo que no prometía el secretario era que otros no fuesen a desarrollar las mismas armas autómatas que para Stop Killer Robots deben ir por el mismo camino que siguieron las minas antipersonales, los láseres cegadores y las armas incendiarias, entre otras, cuyo desarrollo y uso ha sido prohibido o restringido por la CCW: "Sistemas autoritarios que creen que las personas son una debilidad en la máquina gravitarán de forma natural hacia soluciones más automatizadas" anota. "La existencia de estas armas no puede justificarse de ninguna manera, sea cual sea al régimen político", sentencia Brunet. Para el investigador, el problema fundamental no son tanto los fabricantes habituales como los espontáneos. "Es mucho más fácil construir un arma autónoma que un arma nuclear", explica. Así, sin una regulación internacional que mantenga a raya los avances en este campo, el terrorismo tendría otra puerta abierta. "Compararía las armas autónomas con los explosivos. ¿Cuáles se pueden utilizar para un atentado? Infinitos. Y además, se pueden fabricar en casa. La única diferencia es que con las armas autónomas hay más sofisticación en la tecnología, pero lo único que hace falta es ser un poco espabilado", resume Brunet. Tanto él como Del Río coinciden en que el problema nace en la absoluta falta de regulación internacional sobre esta materia y la solución pasa por actuar pronto y crear concienciación: "Igual que tratamos de sensibilizar con los efectos del calentamiento global, tenemos que concienciarnos sobre una tecnología que esconde un potencial del que ahora mismo no sabemos donde está su techo", explica el director ejecutivo de Aisoy. "Cuando nos demos cuenta del peligro que representan para la existencia de los humanos, será demasiado tarde" puntualizó :(
