Llego el 2021 y su presencia es cada vez más amenazante para la humanidad ¿A quienes nos estamos refiriendo? Obviamente, a los robots asesinos, que son sistemas de armas con la capacidad de seleccionar y atacar objetivos sin la necesidad de un control humano. Esto significa que la decisión de utilizar la fuerza letal estaría delegada a una máquina. Este desarrollo con graves implicaciones cambiaría de forma fundamental la forma en que se realizan las guerras, por lo que se le ha denominado la tercera revolución bélica, luego de la pólvora y la bomba atómica. La función de seleccionar y atacar objetivos de forma autónoma se podría llegar a implementar en distintas plataformas, como un tanque de guerra, un avión de caza o un barco de guerra. Otro término que se usa para describir este tipo de armamentos es sistemas de armas autónomos letales (LAWS, por sus siglas en inglés. Si bien es cierto que hoy en día, los drones armados aún cuentan con un operador humano que controlan el sistema de armas a distancia - que es el responsable de seleccionar e identificar objetivos así como de accionar el gatillo para atacar - el desarrollo alcanzado por estas maquinas en los últimos años, indica que pronto ya no los va a necesitar de ninguna manera y al igual que en las películas de Terminator, podrá matar a voluntad, lo cual indudablemente lo hace muy peligroso. Se sabe que estos sistemas ya se están desarrollando en este momento y puedan ponerse en funcionamiento antes de lo que uno imagina. Es por ello imprescindible para evitar que eso suceda, siempre debe existir un control humano significativo sobre las decisiones de selección y ataque de cada objetivo. El operador humano debe ser capaz de realizar una evaluación minuciosa sobre los aspectos legales y éticos de sus decisiones, con información suficiente acerca de la situación en el campo de combate y con tiempo suficiente para tomar una decisión bien evaluada e informada. El centro del debate acerca de los sistemas de armas autónomas letales reside en el deseo de mantener algún tipo de control humano. ¿Qué nivel y tipo de control humano es necesario para que un arma sea aceptable legal y éticamente? ¿Cómo podemos asegurarnos de que ese control sea adecuado y significativo? Si no se logra imponer restricciones, las armas letales autónomas estarán en funcionamiento sin ningún control, no en las próximas décadas, sino años. Ya existen muchos precursores que muestran con claridad una tendencia hacia sistemas de armas que actúen por su cuenta. Al respecto, existen una serie de graves problemas éticos, legales y de seguridad que genera una justificada preocupación mundial. ÉTICA: Una máquina nunca debería poder tomar decisiones de vida y muerte, las cuales no deberían jamás reducirse a un algoritmo. Esto es contrario a los principios de dignidad humana y al derecho a la vida. Un robot no comprende ni respeta el valor de la vida humana. Esto significa que un robot no será capaz de evaluar una decisión de usar fuerza letal que tengan en cuenta, de forma implícita o explícita, la dignidad humana. Simplemente se tratará de completar la tarea para la cual fue programado, que es la de matar. Esto desvaloriza y deshumaniza la decisión, y no respeta el valor que asignamos a la vida humana; PROLIFERACIÓN: Una vez desarrolladas, es probable que las armas letales autónomas se vuelvan relativamente baratas de producir y fáciles de copiar. Esto aumenta la probabilidad de que se multipliquen y caigan en manos de diferentes actores, como dictadores y organizaciones terroristas. Sus defensores generalmente se enfocan en las “ventajas de corto plazo” de utilizar robots asesinos, pero pasan por alto la posibilidad de que en el largo plazo estas armas terminen siendo usadas contra su propio personal militar y su población civil; LEGALIDAD: Es poco probable que los robots asesinos se adhieran a principios fundamentales del Derecho Internacional Humanitario (DIH), tales como distinguir entre un civil y un combatiente. No se puede definir como combatiente simplemente un humano con un arma. En algunos países, los civiles pueden portar armas con fines ceremoniales en un casamiento, y los pastores pueden estar armados para proteger su ganado y a sí mismos. Algo aún más complejo es la evaluación de proporcionalidad que pondera el daño colateral a civiles en relación con una ventaja militar. Es simplemente imposible programar la ley internacional, ya que siempre depende de una interpretación de un contexto particular; REDUCCIÓN DEL UMBRAL PARA LA GUERRA: Existen quienes especulan que las armas letales autónomas podrían disminuir las bajas en las fuerzas atacantes. Sin embargo, esto también podría devenir en un aumento de los conflictos, ya que podría disminuir el umbral de inhibición para ir a la guerra. Por otra parte, cuando hay menos riesgos para la seguridad de un soldado, podría ser más fácil utilizar fuerza letal. La percepción de una guerra sin riesgos podría generar una preferencia por las soluciones militares por sobre las diplomáticas; RESPONSABILIDAD: Las armas letales autónomas crean un vacío de responsabilidad en relación a quién sería el responsable por un acto de guerra ilícito. ¿Quién asumiría las culpas: el fabricante, el desarrollador, el comandante militar o el mismo robot?; CARRERA ARMAMENTISTA: Un rápido desarrollo de la robótica y la inteligencia artificial aplicados a tecnologías militares podrían llevar a una carrera armamentista internacional, la cual tendría un efecto desestabilizador y amenazar la paz y seguridad internacional; IMPREVISIBILIDAD: La puesta en operación de armas letales autónomas podría detonar guerras ‘accidentales’ y un rápido agravamiento de los conflictos, así como otras peligrosas consecuencias no deseadas. No está aún claro cómo reaccionarían e interactuarían entre sí armas letales autónomas diseñadas y activadas por fuerzas enemigas. Estas armas podrían ser altamente impredecibles, especialmente en cuanto a su interacción con otros sistemas autónomos y si están equipadas con aprendizaje automático. Por estos motivos es imprescindible denunciar el potencial peligro que representa para los humanos el desarrollo de estas armas autónomas, que llegado el momento bien se pueden rebelar contra sus creadores. Evitemos que con la prohibición de su desarrollo, producción y uso esta posibilidad llegue a convertirse en una siniestra realidad :(
