Las agencias cibernéticas del grupo de inteligencia Five Eyes (Cinco Ojos) acaban de advertir que los modelos avanzados de inteligencia artificial pronto podrían dar a los piratas informáticos la capacidad de paralizar gobiernos, empresas y sistemas críticos. En efecto, en una inusual declaración conjunta, emitido a última hora del lunes por la noche, hora de Sídney, líderes de ciberseguridad de Australia, Estados Unidos, Reino Unido, Canadá y Nueva Zelanda afirmaron que los modelos de IA de vanguardia se están desarrollando más rápido de lo esperado y se prevé que "superen las expectativas actuales de la industria, transformando fundamentalmente las capacidades cibernéticas tanto ofensivas como defensivas". “El plazo no es de años, sino de meses”, afirmaron las agencias, añadiendo que “el riesgo cibernético ya no puede tratarse como una cuestión puramente técnica. Se trata de un riesgo empresarial fundamental y una responsabilidad de la dirección” añadieron. “En este entorno, la ciberresiliencia es fundamental para impulsar la continuidad del negocio, la confianza del mercado y el valor a largo plazo.” Las agencias de ciberseguridad afirmaron que los avances en los modelos de IA demostraban que esta tecnología reduciría las barreras para los ciberdelincuentes y aumentaría la velocidad y la complejidad de los ataques. “Se requiere una respuesta integral de la organización y de toda la sociedad”, continuo el comunicado. Las agencias instaron a las organizaciones a reforzar sus defensas digitales, actualizar el software obsoleto con mayor rapidez, limitar el acceso a sistemas sensibles y prepararse para los ciberataques antes de que se produzcan. “El riesgo cibernético ya no puede tratarse como una cuestión puramente técnica. Se trata de un riesgo empresarial fundamental y una responsabilidad del liderazgo.” Los modelos de IA generativa son nuevas y potentes herramientas capaces de buscar vulnerabilidades en los sistemas de ciberseguridad, y pueden ayudar tanto a explotar esas vulnerabilidades como a repararlas. “Lo que diferencia a los modelos de IA más recientes es que son muy buenos generando vulnerabilidades”, dijo Olivia Shen, experta en seguridad nacional e inteligencia artificial del Centro de Estudios de Estados Unidos de la Universidad de Sídney. Si bien la declaración de Five Eyes - una agencia creada entre los cinco países anteriormente nombrados, tras la Segunda Guerra Mundial -no se mencionan por su nombre ningún modelo de IA ni ninguna empresa, muchos en todo el mundo tienen la vista puesta en la avanzada gama de herramientas de Anthropic. Una de las últimas invenciones de esta importante empresa tecnológica se llama Fable 5, una versión aparentemente más amigable con la comunidad de Mythos, un potente modelo de IA lanzado a principios de este año capaz de detectar vulnerabilidades en sistemas cibernéticos, que solo está disponible para organizaciones y empresas verificadas debido a la preocupación de que pueda ser explotado. En junio, el gobierno estadounidense suspendió el uso de ambos modelos de Anthropic por parte de "ciudadanos extranjeros", citando recomendaciones de las autoridades de seguridad nacional. Shen afirmó que gran parte del mundo estaba centrado en lo que sucedería a continuación con Anthropic, pero que podría haber muchos más modelos de IA potentes en un futuro próximo. “Solo podemos ver lo que se ha publicado, pero podría haber otros modelos en desarrollo por parte de países como China, u otros estados, actores y empresas, que sean igual de avanzados y que lo mantienen en secreto” asevero. Estos avances se producen en medio de advertencias más generalizadas por parte de investigadores, líderes tecnológicos y funcionarios de seguridad, quienes señalan que las capacidades de la IA están avanzando más rápido de lo que los gobiernos y las instituciones pueden adaptarse. Los expertos han advertido cada vez con mayor frecuencia que los sistemas diseñados para aumentar la productividad y reforzar las defensas cibernéticas también podrían utilizarse para automatizar ataques, reducir las barreras para los ciberdelincuentes y amplificar el impacto de pequeños grupos.
