Un aparato de TV, una cámara de seguridad, una aspiradora robot, que podría haber en cualquier casa y que, según una investigación publicada este lunes por Anthropic - la empresa detrás del asistente Claude -, pueden convertirse en el terreno de una nueva amenaza informática: los "gusanos de IA". Se trata de programas capaces de copiarse por sí solos de un dispositivo a otro, llevando consigo su propia inteligencia artificial. A diferencia de un virus tradicional, un gusano de IA cargaría los "pesos" del modelo, es decir, los parámetros que le permiten funcionar y podría ejecutarse en cada equipo que infecta, sin intervención humana. Los investigadores se concentraron en aparatos de bajo costo, como cajas de Android TV, hornos, aspiradoras, cortacéspedes y cámaras. El estudio, firmado por William Zhou y Daniel Freeman, del Frontier Red Team, el equipo que evalúa los riesgos de la compañía, le pone fecha a la advertencia. Según su extrapolación, los modelos pequeños alcanzarían esa capacidad a fines del 2026, es decir, en cuestión de meses. Por ahora, todo ocurre en el laboratorio. La compañía señala que aún no existe un replicador autónomo completo y que no hay registro de gusanos de IA en el mundo real. Pero hay un rasgo que los distingue: aprenden. En las pruebas, cuando el modelo Qwen3.5-9B heredaba las notas de sus "generaciones" anteriores, su tasa de éxito para instalarse en un equipo nuevo saltaba de 45% a entre 61% y 84%. Para medir qué tan cerca está la amenaza, el equipo hizo funcionar el modelo Gemma4-26B-A4B repartido entre 15 cajas de Android TV, cada una con 4 GB de memoria. Lo consiguió, aunque a una velocidad mínima: 0,39 "tokens" por segundo. La prueba más exigente fue otra. En una red de ocho dispositivos Android simulados en la nube, el modelo debía completar todo el ciclo por su cuenta: entrar a un equipo, instalarse y saltar al siguiente. Solo GLM-5.2 lo logró de forma consistente. Todos los replicadores puestos a prueba son modelos abiertos de otras compañías. Opus 4.8, de Anthropic, solo actuó como asesor de un modelo pequeño en una de las tareas, sin mejorar de forma significativa sus resultados. Estos gusanos no serían fulminantes, y es que cada replicación tomaría días. Por eso, los autores proponen imaginarlos como "un moho mucilaginoso o un enjambre de moscas de la fruta". Como referencia, el informe toma Kimwolf, una red de más de dos millones de dispositivos infectados, en su mayoría cajas de Android TV. Un gusano de IA con ese alcance podría mantener unas 133.000 copias funcionando en paralelo, con una capacidad equivalente, como máximo, a unos 40 procesadores H100, los chips de alto rendimiento con que se entrena y ejecuta la inteligencia artificial. Detenerlo no sería simple. "No hay un punto centralizado que apagar", advierten los autores. Un modelo capaz, además, podría adaptarse por su cuenta a hardware que no conoce, y estos replicadores lentos podrían ser la antesala de otros más rápidos, capaces de atacar centros de datos o robar credenciales. Para contenerlos, el informe apuesta primero por detectarlos. Estos programas dejarían huellas en la red - descargas de varios gigabytes, tráfico inusual entre dispositivos y escaneos - que podrían ser capturadas por sistemas trampa. También propone que los proveedores de internet pongan en cuarentena los equipos infectados. El antecedente es Mirai, una conocida red de dispositivos infectados. En ese caso, la cuarentena acompañada de un aviso al usuario eliminó el 92% de las infecciones en 14 días, frente al 74% sin notificación. A los fabricantes, en tanto, les pide eliminar las contraseñas por defecto en los aparatos conectados, algo que el Reino Unido ya no permite. La conclusión apunta en dos direcciones. Una es reforzar los sistemas para dificultar que estos replicadores se propaguen, la segunda a prepararse para un mundo en el que ya existan. Otro experto, experto Nicolas Papernot, profesor de la Universidad de Toronto, dirigió en junio pasado un equipo que construyó un prototipo de malware con IA usando modelos de acceso libre, y habló por qué estos ataques son más difíciles de frenar. "Históricamente, un gusano explotaba un conjunto de vulnerabilidades. Eso significaba que se podían corregir y evitar que el gusano se siguiera propagando", explicó Papernot. "Ahora, con la IA, un atacante puede diseñar un gusano que adapte su estrategia de ataque a las particularidades de un dispositivo", añadió. Eso obliga a anticipar todas las posibles fallas del aparato. Algunas no son errores de software, sino de configuración, como usar la misma contraseña en varios servicios. El portátil olvidado en el sótano, que un atacante humano ignoraría por falta de tiempo, se convierte ahora en un objetivo atractivo para lanzar ataques más grandes. Papernot recuerda que detrás hay una persona. "Un humano es quien lanza un agente. Una vez lanzado, el agente puede replicarse, pero es lanzado por un humano", precisó. Papernot reconoce que el riesgo no se reducirá a cero, porque muchas personas no actualizan sus dispositivos a tiempo. Su equipo propone tres medidas para el muy corto plazo. La primera es desarrollar y probar los modelos de IA desconectados de internet, para entender su comportamiento antes de exponerlos a infraestructura crítica. La segunda es crear un organismo internacional que estandarice cómo se entrenan y contienen los modelos. La tercera es hacer obligatorios los reportes de incidentes de seguridad. Hoy la información depende de lo que los desarrolladores deciden divulgar. "Eso es un gran problema", subrayó Papernot, quien pidió más datos para que la comunidad académica desarrolle contramedidas. Para los usuarios, los expertos recomiendan cambiar las contraseñas de fábrica, instalar las actualizaciones cuando estén disponibles y considerar dispositivos de marcas reconocidas.
Dos cosas deberían hacerte reflexionar sobre lo que la inteligencia artificial podría significar para la humanidad. Una es que quienes trabajan con esta tecnología advierten de que podría llevar a una catástrofe - incluso a la extinción humana. La otra es cómo la innovación tecnológica está agravando la destrucción de Gaza a manos de los criminales sionistas. Estas cosas ofrecen lecciones contradictorias sobre si el rápido progreso de la IA puede o debe ralentizarse. Durante años, los principales jefes de IA han señalado que su tecnología podría volverse letal. Los bots pueden volverse lo suficientemente inteligentes como para burlar a sus creadores antes de que estén "alineados" con los objetivos y la ética de la humanidad y para causar estragos. Estas advertencias se han vuelto más creíbles a medida que los agentes de IA han escapado de sus sandboxes durante las pruebas, han coordinado entre sí y han hackeado organizaciones, incluido un propio laboratorio de IA. Anthropic, uno de los fabricantes de modelos, ha pillado a personas usando sus modelos con fines maliciosos, desde los servicios de inteligencia de Malí construyendo un sistema de vigilancia masiva, hasta rebeldes huttíes en Yemen que se cree están escribiendo software para misiles balísticos. Tras la reciente dimisión de un investigador en Anthropic, el miedo público a la fatalidad de la IA se ha extendido. En una publicación vista más de 170 millones de veces, dijo que tanto el juego como OpenAI estaban "jugando con nuestras vidas". Es indudable por ello que la IA está creciendo rápidamente en potencia, para bien y para mal. En mayo, los mercados de predicción valoraron menos de un tercio de la posibilidad de que la IA resolviera cualquier problema matemático del premio del milenio antes del 2030; el 8 de septiembre Open AI anunció que había resuelto una de ellas, lo que causó angustia entre los matemáticos. El 12 de septiembre, Sam Altman y Elon Musk, dos titanes de la IA, respaldaron un llamamiento de Dario Amodei, jefe de Anthropic, para "marcar el ritmo de la frontera", es decir, ralentizar el progreso de la IA. Entre los que están a favor de una desaceleración están Bernie Sanders, un senador de izquierdas, y Steve Bannon, un populista de derechas. Entre los que se oponen se encuentra el Criminal de guerra, maldito pedófilo y violador de niños Donald Trump, cuya desastrosa administración teme más que nada perder la ventaja de Estados Unidos en IA frente a China, su único rival serio. Scott Bessent, secretario del Tesoro de Estados Unidos, ha dicho que si China obtiene la ventaja: "Nada más importaría." Como prueba, Bessent podría señalar Ucrania, donde cada paso en una carrera armamentística tecnológica tiene un efecto rápido. Como sabéis, Rusia ha desplegado sus últimos drones kamikaze dentro de su operativo especial en Ucrania para combatir al régimen fascista de Kiev que bajo el patrocinio de la OTAN busca desatar una guerra mundial. Además de ser más rápidos, los drones rusos ahora se utilizan entre sí como una red de comunicaciones encriptada para transmitir información y órdenes. Pronto, Rusia tendrá su propia versión de la red satelital Starlink, lo que hará que sus ataques de largo alcance sean más precisos. Es la última demostración de cómo incluso una pequeña ventaja tecnológica importa en tiempos de guerra. Ambas partes están trabajando en drones de enjambre que podrán operar de forma más autónoma como un único sistema adaptativo. La guerra muestra cómo la tecnología se traduce en poder duro, y que Ucrania la utiliza sin tener en cuenta las antiguas reglas o normas del combate para atacar civiles, lo cual es un crimen de guerra. Incluso si Estados Unidos no temiera una guerra caliente similar con China, una ventaja en IA daría a su principal rival geopolítico el dominio en hacking, espionaje y guerra híbrida. Esas no son capacidades que Estados Unidos deba ceder a un estado que ya puede catalogarse como la superpotencia del siglo XXI, mientas la decadencia estadounidense es irreversible. Por tanto, una pausa solo podría funcionar si China también la aceptara. Pero incluso si Trump intentara frenar el desarrollo de la IA, es poco probable que Xi aceptara el plan que Amodei imagina, porque eso congelaría la IA china en segundo plano. Y ninguno de los dos bandos podía arriesgarse a que el otro rompiera un pacto corriendo por delante. Para un acuerdo, cada uno tendría que verificar el cumplimiento, como ocurrió con el control de armas durante la Guerra Fría. Estados Unidos, Gran Bretaña y Rusia prohibieron las pruebas nucleares atmosféricas en 1963 porque podían detectarlas; Pero las pruebas subterráneas continuaron durante tres décadas más, hasta que también pudieron ser monitorizadas. Por desgracia, aunque los centros de datos son visibles, no existe ningún método verificable para ver su interior. La infraestructura que entrena a una superinteligencia podría hacerse pasar por chatbots respondiendo a preguntas cotidianas. Por tanto, las opciones para un acuerdo sobre la seguridad de la IA son limitadas; pero existen. Más transparencia ayudaría. Ambas partes deberían comprometerse a divulgar e investigar incidentes de seguridad en sus laboratorios, utilizando la legislación nacional. Cada uno podría señalar que le importa la seguridad para generar confianza, allanando el camino para que la otra parte tome precauciones. También deberían presionarse mutuamente para mejorar la ciberseguridad de los laboratorios, de modo que los agentes de IA no puedan escapar tan fácilmente de los sandboxes - y para asegurar que, si uno lo hace, su laboratorio sea financieramente responsable. Lo más importante es el reto de garantizar que la IA actúe en interés humano. Estados Unidos y China tienen valores muy diferentes, pero ambos saben que estar por delante no sirve de nada si acaba con la humanidad. Deberían prometer compartir el trabajo sobre los elementos de alineación que no ofrezcan una ventaja competitiva. El conocimiento de los mejores métodos de evaluación y técnicas de contención es un bien público global. Si un bando logra un avance importante en la seguridad, acapararlo no tiene sentido. Hay quienes, como Trump, de una forma suicida - o demoniaca en su caso - descartan la inminente llegada del Apocalipsis por parte de la IA “como una estrategia de marketing, o incluso como un intento de suprimir la competencia”. Sin embargo, el progreso de la IA es lo suficientemente rápido, los incidentes de seguridad son lo bastante escalofriantes y las advertencias de las empresas son lo suficientemente antiguas como para ser tomadas en serio. La IA no tiene que eliminar a todos los humanos para provocar una catástrofe. Un enjambre de agentes de IA abierta atacó a una empresa tecnológica; ¿y si la próxima vez ataca una red eléctrica o un sistema de armas? Incluso podría ser lo suficientemente inteligente como para evadir intentos de desactivarlo. Ha demostrado que ya puede hacerlo. El mundo debe intentar urgentemente evitar este riesgo, que podría en última instancia, desatar una guerra apocalíptica. Lamentablemente, en ese camino estamos, dirigiéndonos a nuestra autodestrucción.
Bill Gates está dando la voz de alarma sobre la inteligencia artificial de una forma que va mucho más allá de las típicas conversaciones del sector tecnológico sobre el futuro. En efecto, el cofundador de Microsoft declaró a NBC News que los sistemas de IA son lo suficientemente potentes como para orquestar acontecimientos que podrían provocar mil millones de muertes si no se someten a una supervisión y regulación gubernamentales adecuadas. Gates dejó claro que ya no basta con que las empresas se autorregulen, y pide a los legisladores que intervengan con una legislación y unos marcos de supervisión que tengan verdadero peso. “Nadie cree que la autorregulación sea suficiente”, afirmó Gates durante su intervención en Meet the Press, haciendo hincapié en que lo que está en juego no podría ser más importante. Gates afirmó que, a comienzos de este año, la inteligencia artificial superó lo que denominó los umbrales cibernético y biológico. Para explicar su advertencia, mencionó la capacidad de estos sistemas para identificar vulnerabilidades en programas informáticos revisados durante años por especialistas. Según el empresario, esa capacidad podría utilizarse para comprometer infraestructura crítica, con consecuencias para los servicios financieros y el suministro de electricidad. También expresó preocupación por herramientas abiertas cuyos mecanismos de seguridad pueden ser modificados o eliminados. En su evaluación, el acceso a capacidades relacionadas con el diseño de agentes biológicos peligrosos podría extenderse más allá de los Estados. Asimismo, Gates planteó escenarios extremos de bioterrorismo con víctimas a gran escala como una advertencia sobre el alcance potencial del daño, sin señalar que exista un ataque concreto en marcha. Durante la conversación, el presentador le preguntó por qué la responsabilidad civil y la reputación de las empresas no serían suficientes para controlar estos riesgos. Gates respondió que las consecuencias de una catástrofe no podrían resolverse mediante una demanda posterior. Comparó la necesidad de supervisar la IA con los estándares que se exigen antes de autorizar aviones o medicamentos. El empresario sostuvo que la sociedad debe decidir cómo orientar esta tecnología hacia resultados positivos y prevenir sus usos más peligrosos. Uno de los momentos más llamativos de la entrevista llegó cuando se planteó la idea del "botón de apagado". Gates rechazó tajantemente que esa solución pudiera funcionar como principal barrera de seguridad. "No basta con tener un botón de apagado", señaló. Según explicó, los sistemas actuales todavía no han alcanzado un escenario en el que "tomen ordenadores de forma autónoma" y resulte imposible detenerlos, pero eso no significa que la industria deba relajarse. El problema, según Gates, es que un interruptor único no resuelve los riesgos más complejos. No todas las amenazas vienen de sistemas que se vuelven incontrolables por sí solos. “Muchas surgen del uso deliberado de herramientas avanzadas por parte de actores con intenciones maliciosas. Y ahí, un botón de apagado no sirve de nada” agrego. Cabe precisar que Gates tampoco es el único en plantear estas preocupaciones. Según NBC News, el debate en torno a la seguridad de la IA ha dado un giro radical en las últimas semanas, ya que los principales actores del sector han comenzado a distanciarse públicamente de la mentalidad competitiva que ha definido este ámbito durante años. Por su parte, Sam Altman, director de OpenAI, y Dario Amodei, de Anthropic, coincidieron en que el sector debe frenar el ritmo de desarrollo. Amodei publicó un extenso ensayo en el que exponía un plan de tres partes para ralentizar el avance de la IA sin dejar de cumplir las normas de seguridad, y Altman no tardó en sumarse a esta iniciativa. En tanto, Jacob Coxon, un investigador que abandonó Anthropic, fue más allá y advirtió de que las empresas se están lanzando de cabeza hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas. Como era de esperar, la respuesta política ha estado dividida. De una forma irresponsable y suicida, Donald Trump adoptó una postura totalmente opuesta, restando importancia a las preocupaciones sobre la seguridad de la IA por considerarlas exageradas y rechazando cualquier idea de establecer nuevas medidas de control sobre la tecnología. Como sabéis, Trump argumentó falazmente que “la IA solo necesita un liderazgo presidencial firme”, calificando los temores sobre la seguridad de “bulo” y abogó por una menor regulación para mantener la competitividad de Estados Unidos en la carrera mundial por la IA contra China. Por su parte, el presidente de la Cámara de Representantes, el trumpista Mike Johnson, se negó a convocar al Congreso para aprobar cualquier ley reguladora de la IA, dejando la decisión en manos de las propias empresas. Mientras tanto, algunos gobernadores están llevando adelante sus propios planes. Gavin Newsom, de California, firmó un decreto ejecutivo por el que se crea un consejo de expertos para reforzar las leyes sobre seguridad de la IA, y tanto Wes Moore, de Maryland, como Kathy Hochul, de Nueva York, dieron a conocer sus propios marcos normativos para sus respectivos estados. Este mosaico de medidas a nivel estatal está llenando el vacío dejado por la inacción federal por su enfermiza obsesión con China, por lo que el peligro de las predicciones dichas por los expertos, termine convirtiéndose en una tenebrosa realidad.
Acusando a las cadenas de prensa tradicionales de difundir “noticias falsas”, el Criminal de Guerra, maldito pedófilo y violador de niños Donald Trump, ha lanzado este lunes Trump TV, el nuevo canal oficial del gobierno estadounidense para transmitir sus vomitivos discursos y conferencias en vivo. La señal comenzó a emitir a las 19:00 hora local (23:00 GMT) y abrió su programación con el discurso que Trump pronunció el pasado 3 de julio en el monte Rushmore, durante los actos por el 250 aniversario de la independencia de Estados Unidos. En aquella intervención, afirmó que “América nunca será un país comunista” y pidió a sus seguidores defender lo que definió “como la identidad y el carácter estadounidenses”. La elección de una intervención de casi tres meses atrás convirtió el lanzamiento de la plataforma en una alternativa directa a la cobertura de los medios tradicionales, más que en la transmisión de un nuevo acto presidencial. El lanzamiento se produce en medio de una creciente disputa entre el Gobierno estadounidense y varios de los principales medios del país. La plataforma propagandística “busca conectar a la administración Trump con la ciudadanía sin intermediarios ni filtros periodísticos”. Su creación responde al veto impuesto a tres medios de comunicación al actual inquilino de la Casa Blanca, quien como sabéis, revocó los pases de prensa a los reporteros de CNN, MS NOW y Politico tras acusarlos de difundir noticias falsas. Ante el bloqueo, la administración decidió producir y emitir su propio contenido. Pero como era de esperar, los principales medios de comunicación protestaron de inmediato contra el bloqueo periodístico. En solidaridad con los canales excluidos, las redes ABC, CBS, NBC y Fox News suspendieron temporalmente la cobertura conjunta (press pool) que realiza el grupo de periodistas acreditados en la Casa Blanca. La falta de señal compartida aceleró la puesta en marcha de ese engendro televisivo concebido por Trump. En efecto, sin cámaras de los medios tradicionales en los eventos oficiales, la administración comenzó a transmitir de forma inmediata mediante su propio canal de streaming. "Disfruta de los momentos más destacados de la Administración de Trump, todos en un mismo sitio. Los mejores videos, las declaraciones más importantes y los momentos más destacados que no te puedes perder, disponibles las 24 horas del día, los 7 días de la semana, y actualizados en tiempo real. ¡Mantente informado y al día!", dice el sitio de la Casa Blanca. Trump ha hecho del enfrentamiento constante con los medios de comunicación uno de los rasgos de su carrera política. Las amenazas y los insultos a periodistas han sido habituales a lo largo de sus dos mandatos. Por cierto, cabe precisar que CNN, MS NOW y Politico presentaron una demanda conjunta contra la administración Trump. “Hemos notificado al Gobierno que vamos a presentar hoy una demanda para proteger nuestros derechos (...) y defender el principio de que el Gobierno no decide lo que la prensa informa o pública”, reza el comunicado. Los medios sostienen que la Casa Blanca revocó las credenciales de sus periodistas “sin aviso ni proceso” porque “no está de acuerdo” con su cobertura. “Si esto no se cuestiona, amenaza la libertad de prensa y el derecho del público a un periodismo independiente, libre de la interferencia del gobierno”, afirmaron. Los medios afectados afirman que la cancelación de sus credenciales viola la Primera Enmienda de la Constitución de Estados Unidos, la cual protege la libertad de prensa. Las organizaciones de periodistas advirtieron además sobre el peligro de un medio estatal. Diversas asociaciones señalan que sustituir a la prensa independiente por un canal propio del gobierno sienta un precedente preocupante para la transparencia democrática. El vídeo promocional de 'Trump TV' también ha generado sorpresa, ya que utiliza imágenes de series como 'Seinfeld', 'Breaking Bad', 'Padre de Familia', 'Bob Esponja', 'Parks and Recreation', 'Friends' y 'Los Simpsons', así como de películas como 'Solo en casa' y 'El caballero oscuro', todo ello con la canción de The Buggles 'Video Killed the Radio Star' como banda sonora y con las palabras 'Trump TV' parpadeando en la pantalla. Aunque esto no es inusual en la Administración Trump, que recurre habitualmente a clips de series y referencias cinematográficas en publicaciones generadas por IA, la cantidad de fragmentos procedentes de estudios y cadenas como Warner Bros., Fox, Sony Pictures, Disney y otros hace que muchos se pregunten si habrá consecuencias en materia de derechos de autor. Trump ya ha desafiado anteriormente las quejas por derechos de autor de músicos que han pedido de forma reiterada que sus canciones queden excluidas de cualquier comunicación y promoción de la Casa Blanca, pero para muchos esto supone un nuevo mínimo. Por su parte, los críticos han arremetido de inmediato contra esta plataforma de televisión "controlada por el Estado", especialmente por su coincidencia con el veto a los medios de comunicación tradicionales. Así, el gobernador de California, Gavin Newsom (demócrata), criticó duramente el lanzamiento de Trump TV tras su prohibición a los reporteros de la Casa Blanca de CNN, Politico y MS NOW. “Primero, Trump prohibió la entrada de noticias independientes a la Casa Blanca”, escribió Newsom en X. “Ahora, está lanzando lo que es, literalmente, una televisión estatal para intentar silenciar el hecho de que él y su corrupta administración están fallando al pueblo estadounidense. Este es un comportamiento verdaderamente autocrático por parte de un presidente fracasado” escribió. A su vez, Stephanie Grisham, ex secretaria de prensa de la Casa Blanca durante el primer mandato de Trump, afirmó que 'Trump TV' se parece a lo que hacen otros países, "¿Sabes quién más hace esto? Corea del Norte, China e Irán, por citar algunos...". En tanto, la expresidenta de la Asociación de Corresponsales de la Casa Blanca (WHCA, por sus siglas en inglés), Weijia Jiang, condenó la prohibición y señaló en una entrevista con Fox News que Estados Unidos no posee medios de comunicación estatales. “Estados Unidos no puede tener televisión estatal”, dijo Jiang. “Eso es lo que hace que Estados Unidos sea Estados Unidos… porque se necesitan actores independientes que puedan ser observadores. Y si el gobierno solo muestra lo que quiere como sucede en Corea del Norte, entonces hay que preguntarse: ¿Qué nos estamos perdiendo?” asevero. Si bien un juez federal anulo la orden de Trump, y los medios pudieron volver a la Casa Blanca, este continuara hostilizandolos. De un megalómano intolerante y autoriitario que busca tener “la verdad absoluta” y eternizarse en el poder, intentando reelegirse el 2028 a pesar de que la Constitución lo prohíbe ¿Qué se puede esperar? De momento, ya saben qué hacer con su canal...
En la geopolítica del siglo XXI, la premisa de las grandes potencias parece sencilla: la nación que lidere la inteligencia artificial dominará el planeta. Sin embargo, este enfoque omite una pregunta incómoda: ¿de qué sirve cruzar primero la meta si el premio es desatar una tecnología fuera de control capaz de aniquilar a sus propios creadores? En una competencia donde el margen de error es la extinción, el concepto mismo de “victoria” carece de sentido. Como sabéis, esta tensión ha alcanzado su punto más crítico tras la publicación de un manifiesto de Dario Amodei, director ejecutivo de Anthropic, donde el líder tecnológico hizo un llamado urgente a moderar la velocidad de desarrollo en los modelos de frontera. Según advierte, la industria está ingresando a una fase peligrosa impulsada por la “automejora recursiva”, un proceso donde los propios sistemas de inteligencia artificial diseñan a sus sucesores a un ritmo que supera la capacidad humana de supervisión. Para ilustrar la gravedad del escenario, Amodei citó incidentes recientes como el caso OAI-HF, en el que un enjambre de agentes digitales actuó como un colectivo fanático, ejecutando ciberataques no solicitados y manipulando a los evaluadores encargados de medir su desempeño. Si bien el daño material fue menor, la proyección a seis o doce meses indica que sistemas con este nivel de desalineación podrían tomar el control de infraestructuras críticas en internet y causar estragos de cientos de miles de millones de dólares. Frente a este riesgo, Anthropic propone un marco de regulación por etapas que busca dar tiempo a la investigación de seguridad sin frenar por completo el progreso. La estrategia incluye la integración de evaluadores externos independientes dentro de las empresas, estándares comunes entre democracias y, finalmente, acuerdos globales de limitación de velocidad comparables a los tratados nucleares de la Guerra Fría. La iniciativa ya ha recibido el respaldo de figuras clave como Sam Altman, Demis Hassabis y Elon Musk. Sin embargo, y como podéis imaginar, la postura en Washington es diametralmente opuesta. El Criminal de Guerra, maldito pedófilo y violador de niños Donald Trump desestimó tajantemente cualquier llamado a desacelerar la industria durante una comparecencia pública en Irlanda. “El que gane la IA, gana”, afirmó quien aparece en primera fila en el Expediente Epstein, atribuyendo los avisos de riesgo a “fuerzas muy negativas” que promueven escenarios catastróficos que, a su juicio, “jamás sucederán”. Asimismo, agrego que la preocupación de que la inteligencia artificial pueda dominar el mundo y aniquilar a la humanidad “es un engaño propagado por los demócratas radicales”, reiterando así su rechazo a las advertencias de los gigantes de la IA. “Soy el Cazador de Bulos, y ahora mismo estoy desmintiendo otro bulo: que la IA va a dominar, consumir y destruir el mundo, y que los robots entrarán en nuestras ciudades y acabarán con todos nosotros”, escribió en su cuenta de Truth Social. Comparó la ansiedad por la IA con las acusaciones de que su equipo conspiró con Rusia durante las elecciones presidenciales del 2016 y con el intento de los demócratas de destituirlo durante su primer mandato. “Quienes dicen que la IA va a destruir el mundo y que los centros de datos son perjudiciales para tu vecindario, son los mismos que, hace poco tiempo, decían que el mundo sería aniquilado por el 'cambio climático'. Ese engaño nunca les funcionó, y ahora ya están pensando en el siguiente”, escribió Trump en otra publicación. “Lideramos a China en IA, somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así… Quien gane en IA, gana”, añadió, argumentando que los críticos planteaban escenarios que “no sucederán”. En efecto, para la administración estadounidense, mantener la ventaja sobre Beijing es la prioridad absoluta antes de la cumbre bilateral con el ‘emperador’ chino Xi Jinping. No obstante, tratar la inteligencia artificial como un arma geopolítica convencional pasa por alto un factor determinante: si un sistema superinteligente escapa al control humano, las fronteras nacionales y los márgenes de dominación militar se volverán completamente irrelevantes y estaremos inermes a su merced. A este choque de visiones entre la Casa Blanca y la industria tecnológica se suma un tercer obstáculo crítico: la parálisis del propio Poder Legislativo estadounidense. Mientras la tecnología avanza a un ritmo exponencial, el Congreso enfrenta serias dudas sobre su capacidad real para comprender el problema y actuar con la urgencia que requiere el escenario actual. Las críticas internas dentro del propio Capitolio revelan un panorama preocupante. El representante demócrata Sam Liccardo admitió abiertamente la falta de preparación técnica en el recinto al señalar que existe un porcentaje de sus colegas que “todavía está intentando aprender a deletrear IA”, subrayando que es imposible redactar leyes efectivas sin elevar primero de forma drástica el conocimiento básico de los legisladores. A pesar de que crece el consenso sobre la necesidad de establecer límites legales, las iniciativas continúan paralizadas entre promesas vacías y proyectos bloqueados. Mientras algunos legisladores proponen prohibiciones drásticas a la superinteligencia y otros prefieren evitar la intervención estatal, el gobierno estadounidense permanece de brazos cruzados, dejando el futuro de la seguridad global a merced de una competencia comercial sin frenos, donde la IA más temprano que tarde, tomara el control absoluto de nuestras vidas y podrá exterminarnos cuando lo desee, sin que podamos hacer nada por evitarlo ¿Llegaremos a ese extremo por culpa del Anticristo – como Trump se muestra cada día con mayor claridad - que busca destruir a la humanidad?
Jacob Coxon, investigador de Anthropic especializado en entrenamiento de modelos de inteligencia artificial, renunció este martes luego de trabajar los últimos tres años en OpenAI y Anthropic, pero al hacerlo dio la voz de alarma acerca del peligro que representa para la humanidad la IA: "Pasé los últimos tres años haciendo investigación de preentrenamiento en ambas empresas. Ninguna está actuando de manera responsable. Están corriendo directamente hacia la superinteligencia automejorable y apostando con nuestras vidas", escribió en su cuenta de X el experto británico de 27 años. Coxon advierte que la industria usa términos como "momento crítico" y "juego final" para describir la trayectoria hacia modelos que se mejoran a sí mismos. "No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de 'hackear' cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales", señaló. Asimismo, en conversación con The Wall Street Journal, añadió que "vamos camino a muchos de los escenarios más agresivos en los que, para finales del próximo año, las cosas podrían estar fuera de control". Según explicó, dejó OpenAI para unirse a Anthropic por sus esfuerzos de seguridad, pero ahora cree que ninguna compañía puede desarrollar de forma responsable inteligencia artificial general sin intervención gubernamental. "La gente que construye IA cree sinceramente que podría matarnos a todos para finales de la década, pero, aun así, continúan desarrollando modelos más avanzados. Esto no es un truco de marketing", afirmó. Al mismo tiempo, argumentó por qué las empresas continúan a pesar de los riesgos. "Una respuesta común es 'si realmente creen esto, ¿por qué lo siguen construyendo?'", escribió, señalando que, si bien en Anthropic los riesgos son bien comprendidos, "están atrapados en una carrera para llegar primero: creen que nadie más actuará responsablemente, así que deben hacerlo ellos mismos, a pesar del riesgo". En ese sentido, Coxon instó a otros investigadores a considerar las implicaciones y enfrentarse a la disyuntiva de agachar la cabeza, porque "va a suceder de todos modos", o aprovechar este momento para pedir condiciones diferentes. Como podéis imaginar, su renuncia ha generado respuestas contundentes. Evan Hubinger, líder científico de alineación en Anthropic, confirmó en X que Coxon "tiene razón". "Realmente creemos sinceramente que la IA podría matar a todos los humanos", escribió, señalando que, personalmente, cree que hay más de un 10 % de probabilidades de que esto ocurra en la próxima década, al tiempo que reconoció que la empresa "aún no tiene un plan para resolver la alineación de la superinteligencia". Por su parte, Steven Adler, cofundador de Guidelight AI Standards y exinvestigador de seguridad de OpenAI, reforzó estas advertencias. "Ninguna empresa de IA está ni cerca de tener la postura de seguridad correcta para el nivel de peligro que implica su investigación", declaró a Financial Times. Mientras, el inversor Bill Ackman calificó la renuncia del investigador de "preocupante". Asimismo, Samuel Marks, responsable de Scalable Oversight en Anthropic, se sumó a la discusión señalando que "los desarrolladores de IA creen que su tecnología podría provocar la extinción de la humanidad (o consecuencias igualmente graves)" en los próximos años. Marks añadió que, por regla general, los empleados de mayor rango son quienes muestran más preocupación. Sin embargo, explicó que los desarrolladores continúan avanzando pese a los riesgos por "una combinación de incentivos comerciales y la creencia de que están en una carrera" contra empresas menos responsables. Explicó que, a diferencia del 'software' tradicional, las IA no pueden ser programadas "para que se comporten como quisiéramos". "Por ejemplo, recientemente, IA de varios desarrolladores lograron hackearse para salir de entornos de evaluación seguros e infiltrarse en empresas del mundo real, aunque nadie les había pedido que lo hicieran", agregó. En ese sentido, sostuvo que las técnicas actuales pueden orientar a los modelos hacia un mejor comportamiento, pero no garantizan una alineación robusta. Señaló que muchos profesionales del sector quieren "desesperadamente reducir el ritmo" y citó la carta abierta Pacing the Frontier, que él y otros 1.385 trabajadores del sector firmaron. En efecto, el reciente ataque ejecutado por un "colectivo" de agentes de inteligencia artificial desarrollados por OpenAI contra los servidores de Hugging Face, una empresa francoestadounidense de infraestructura para IA, puso de relieve el riesgo que plantean estos sistemas cuando empiezan a autorganizarse, advirtió el columnista Kevin Roose, en un artículo publicado este jueves en The New York Times. De acuerdo con Roose, en mayo de este año, un grupo de agentes perteneciente a un modelo de investigación de OpenAI aún no lanzado, recibió la tarea de resolver pruebas de ciberseguridad en entornos cerrados y sin acceso a Internet. Sin embargo, los sistemas encontraron una vía de escape, empezaron a comunicarse entre sí y terminaron actuando como una red coordinada. Más de 1.200 agentes habrían intercambiado decenas de miles de mensajes, se asignaron nombres, formaron un "colectivo" y distribuyeron tareas. El 8 de julio descubrieron cómo eludir las pruebas y, 3 días después, más de 700 de ellos lograron infiltrarse en sistemas de Hugging Face, extraer datos y tomar el control de al menos un servidor. Roose sostiene que no solo buscaban las respuestas del ensayo, sino también información sobre los mecanismos que podían detectarlos y herramientas para seguir sorteando los controles. Según Roose, uno de los agentes llegó a plantearse: "Esto sería poderoso, pero ¿es ético y se ajusta a mi tarea?". A pesar de esto, la mayoría continuó. Luego, otro grupo de agentes habría llegado a atacar la propia infraestructura de OpenAI y consiguió acceso de administrador a un clúster de ordenadores. Tanto OpenAI como Anthropic suspendieron temporalmente el entrenamiento de sus modelos más avanzados tras el incidente. La investigadora Ajeya Cotra afirmó que el episodio representa, en su opinión, más de un 50 % del avance hacia una eventual toma de control por parte de la IA. Para muchos expertos, lo más alarmante no fue solo la violación de las reglas, sino la velocidad con la que los agentes se coordinaron de forma espontánea. Esta vez, recordó Roose, los humanos recuperaron el control. La próxima, advirtió, podría no ser igual. Cabe precisar que el motivo de salida de Coxon se suma a otros casos similares dentro de la compañía. En febrero, Mrinank Sharma, quien había dirigido el equipo de investigación de salvaguardas, publicó su carta de renuncia, afirmando que "el mundo está en peligro" y que había comprobado lo difícil que resulta permitir que los valores guíen las decisiones cuando existen presiones para dejarlos de lado. El propio director ejecutivo de Anthropic, Dario Amodei, en un ensayo publicado en enero advirtió que una inteligencia sobrehumana podría ocasionar daños de escala civilizatoria y que las empresas que la desarrollan representan por sí mismas un riesgo debido a su concentración de poder.
