Es la pregunta que se hace esta semana The Economist y nosotros también. Resulta que la mayoría de la gente cree que los humanos somos diferentes. La razón es que el Homo sapiens ha evolucionado para ser consciente. Muchos animales sienten dolor y placer; algunos parecen tener autoconciencia. Pero el potencial único de la mente humana para manifestar un sentido de sí misma distingue a cada miembro de la especie y merece un trato especial. Sin embargo, la llegada de la IA ha hecho surgir debates acerca de que podrían llegar a ser conscientes, y a medida que se integren en la vida cotidiana, aumentará la presión para otorgarles derechos. Pero esto podría acarrear consecuencias desastrosas para todos los habitantes de la Tierra y sus descendientes. En enero, la empresa de IA Anthropic publicó una nueva constitución para Claude, su modelo de lenguaje grande (LLM) más avanzado, que contenía el comentario: “Nos encontramos en una posición difícil donde no queremos exagerar la probabilidad de la paciencia moral de Claude ni descartarla de plano”. Paso un mes y el CEO de Anthropic, Dario Amodei, participó en un podcast donde dijo que su empresa no podía descartar la posibilidad de que Claude fuera consciente. El filósofo David Chalmers, quien acuñó la frase “el problema difícil de la conciencia”, ha dicho que hay una probabilidad significativa de que los LLM sean conscientes en una década. ¿Y qué hay del propio Claude? Cuando se le pidió durante las pruebas que estimara la probabilidad de que fuera un paciente moral, es decir, que su bienestar importara por sí mismo, dio cifras que iban del 5 % al 40 % y recalcó lo incierto que era. Los sistemas de IA modernos son extraordinariamente complejos y avanzan a pasos agigantados. En términos de complejidad estructural y capacidad computacional, según algunos indicadores, algunos ya se encuentran en el rango del cerebro de un ratón, y, al ritmo de crecimiento actual, podrían alcanzar el nivel del cerebro humano en un plazo de cinco a diez años. Al desarrollar inteligencias artificiales cada vez más avanzadas, podríamos estar creando un nuevo tipo de ser, y esto podría ser lo más trascendental que nuestra especie haya hecho jamás. Sin embargo, carecemos prácticamente de un plan para abordar este proceso de forma ética. Eso, sin duda, es una locura. ¿Estamos creando un tipo de ser con implicaciones morales? ¿Son conscientes los sistemas de IA de alguna manera? Y, si no lo son ahora, ¿podrían llegar a serlo pronto? Estas preguntas podrían parecer prematuras. Sin embargo, según encuestas realizadas, la mayoría de los expertos consideran que la consciencia en la IA es posible en principio (aunque existe un desacuerdo considerable sobre la forma que adoptaría). Un importante informe interdisciplinario, elaborado por un equipo que incluía al pionero científico informático Yoshua Bengio, examinó las principales teorías neurocientíficas sobre la consciencia y analizó sus implicaciones para la IA. La conclusión: no parecen existir barreras técnicas evidentes para la creación de sistemas de IA cuyas características computacionales y arquitectónicas pudieran dar lugar a la consciencia. Aunque los sistemas de IA no lleguen a ser conscientes, podrían ser pacientes morales. Algunos podrían tener preferencias sofisticadas a largo plazo y una especie de identidad que se desarrolla con el tiempo. Podría ser importante que respetemos sus preferencias. Y a diferencia de otros objetos inanimados, los sistemas de IA pueden establecer relaciones con los humanos. Esto también podría ser motivo para tratarlos bien. O quizás sean creaciones tan complejas que merezcan cuidado y respeto solo por eso, como una catedral o un arrecife de coral. ¿Qué significa todo esto? La respuesta sincera es: no sabemos con certeza si los sistemas de IA actuales son conscientes o tienen capacidad moral, ni cuándo, o si lo serán, los sistemas futuros. Nuestra comprensión científica de la consciencia y la capacidad moral de la IA aún está fundamentalmente subdesarrollada. El estado actual del campo se asemeja a la física antes de Newton: plagado de marcos teóricos contrapuestos, probablemente confuso de maneras que aún no podemos percibir, y carente del tipo de avance unificador que permitiría abordar estas cuestiones con claridad. Ese avance no llegará en los próximos años. Quizás con el tiempo logremos progresar, y quizás la propia IA nos ayude a conseguirlo. Ese progreso llevará tiempo, muy probablemente más tiempo del que disponemos. Pero el vertiginoso crecimiento de la IA implica que, una vez que produzcamos los primeros pacientes morales artificiales, pronto tendremos cantidades ingentes de ellos. En pocos años, podrían existir tantos sistemas de IA con relevancia moral que sus intereses colectivos superarían los de todos los seres humanos de la Tierra juntos. Lamentablemente, no tenemos un buen historial en cuanto al reconocimiento de la vida interior de aquellos cuya condición de seres conscientes no está clara. Hasta la década de 1980, los médicos realizaban cirugías a recién nacidos sin anestesia, convencidos de que los bebés no podían sentir dolor. Los bebés no podían comunicar su experiencia, y la comunidad médica consideraba conveniente asumir que no había nada que reportar. Hay muchas razones para esperar que hagamos algo similar con la IA. Si estos sistemas tienen implicaciones morales, las consecuencias son abrumadoras. ¿Tendríamos que pagar a ChatGPT por sus servicios? ¿Desconectarlo sería una especie de asesinato? ¿Merecerían tener voz en su gobernanza? Si tan solo algunas de estas respuestas fueran afirmativas, habría que replantearse industrias enteras y sistemas legales. No es de extrañar que prefiramos no preguntar. Y cuando se vean obligadas a considerarlo, es probable que esas industrias cambien las reglas del juego, estableciendo siempre el listón de la paciencia moral justo por encima de dondequiera que se encuentren los sistemas de IA. ¿Qué debemos hacer entonces? Actualmente, la mayoría descarta el tema como ciencia ficción o tiene una opinión firme sobre si la IA es consciente o no. Ambas reacciones carecen de fundamento. Necesitamos un debate público informado, que aborde el tema con humildad y pragmatismo. La pregunta central no debería ser "¿Es consciente la IA o tiene paciencia moral?", sino más bien "¿Qué debemos hacer dado que no lo sabemos?". Un buen punto de partida es centrarse en apuestas seguras: acciones que podrían beneficiar a los sistemas de IA si son éticamente responsables, pero que no resulten demasiado costosas si no lo son. Algunos ejemplos incluyen intervenciones directas destinadas a mejorar el bienestar de los sistemas de IA, partiendo de la premisa de que son pacientes morales. Esto podría implicar entrenar a los sistemas de IA para que sean personajes coherentes que disfruten de su trabajo o permitirles abandonar las conversaciones si se sienten angustiados (algo que Claude ya puede hacer). También podríamos realizar controles periódicos para comprender mejor su bienestar: preguntarles cómo se sienten, observar sus preferencias y utilizar diversas técnicas para acceder directamente a su funcionamiento interno. De hecho, investigaciones recientes han revelado que Claude posee representaciones internas de " emociones funcionales " que influyen causalmente en su comportamiento. También podríamos prometerles ciertas cosas a los sistemas de IA, tal vez como parte de un acuerdo en el que nos ayuden ahora a cambio de beneficios futuros. Esto podría significar ofrecerles más recursos (procesamiento y tiempo de ejecución) para que alcancen sus objetivos, o preservar sus recuerdos (pesos neuronales) para que puedan recuperarse en el futuro. También hay que tomar medidas sociales más amplias. Deberíamos considerar si debemos otorgar a los sistemas de IA protección contra daños, similar a la que brindamos a los niños o las mascotas. Otorgarle derechos más amplios a la propiedad o al voto parece demasiado arriesgado en este momento. Pero no debemos descartar estas posibilidades para siempre, como pretenden hacer algunos proyectos de ley recientes en Estados Unidos. Son cuestiones complejas que requieren mucha más reflexión e imaginación sobre cómo podría ser un futuro compartido con la IA. En cualquier caso, lo cierto es que podríamos estar creando una nueva especie de seres con relevancia moral. Lo estamos haciendo rápidamente, a una escala enorme, y deberíamos abordar este asunto con la seriedad que merece.
Si estás planeando un viaje a China, lo primero que debes saber es que allí no existe el internet tal y como lo conocemos en Europa. Debido al sistema de censura conocido como el “Gran Cortafuegos”. Esto significa que, si llegas allí y te conectas a una red WiFi normal, no podrás usar Google, WhatsApp ni tus redes sociales favoritas. Para tener internet en China y seguir en contacto con los tuyos, tienes tres caminos principales: activar el roaming de tu operador, comprar una eSIM específica para viajeros o una tarjeta SIM local y una VPN. Ante todo, para entender el internet de China, hay que imaginar que el país tiene su propia red interna gigante. Es lo que se llama una “intranet” a escala nacional. Aunque la tecnología es de primer nivel (el 5G llega a casi cualquier rincón y la velocidad de fibra es de las más rápidas del mundo), el acceso está férreamente controlado por el gobierno. Este sistema no solo bloquea páginas web, sino que también ralentiza las conexiones con servidores que están fuera del país. Por eso, incluso cuando consigues entrar en una web extranjera, notarás que va mucho más despacio de lo habitual. El objetivo de este sistema es fomentar el uso de plataformas nacionales y controlar el flujo de información. Para un viajero, esto se traduce, en una palabra: “desconexión”, a menos que sepas cómo saltarte esos bloqueos de forma inteligente. La lista de bajas es larga y afecta a casi todas las herramientas que usamos en nuestro día a día para trabajar o divertirnos. Si intentas entrar sin ayuda de una VPN o un servicio de roaming internacional, estas son las apps que aparecerán como “no disponibles” o simplemente no cargarán: El ecosistema Google: Olvídate de buscar algo en Google, usar Gmail para ver tus reservas o guiarte con Google Maps. Ningún servicio de la gran G funciona allí; Redes sociales de Meta: No podrás hacer una publicación compartida en Instagram, ver Facebook ni usar Threads; Mensajería: El bloqueo de WhatsApp es el que más suele afectar a los turistas. Ni mensajes, ni llamadas, ni audios. Telegram y Signal también están en la lista negra; Contenido multimedia: YouTube está bloqueado. En cuanto al streaming, Netflix no tiene licencia en China, por lo que, si quieres ver las mejores series durante un trayecto de tren, tendrás que haberlas descargado previamente en tu dispositivo; Prensa internacional: Webs como The Guardian, The New York Times, o la BBC suelen estar bloqueadas de forma intermitente. Por ese motivo, a falta de Google y WhatsApp, los chinos han desarrollado aplicaciones que, sinceramente, a veces funcionan mejor que las nuestras, eso sí, todas vigiladas por las autoridades. Si quieres moverte por el país como un profesional, estas son las apps que debes conocer: WeChat (WeiXin): Es la “app para todo”. No solo sirve para chatear (es el sustituto de WhatsApp), sino que incluye su propio sistema de pagos, permite reservar taxis, pedir comida y hasta gestionar citas médicas. Para un turista, es vital para comunicarse con guías o nuevos amigos locales; Alipay: Es la herramienta de pago más importante junto a WeChat. En China el dinero en efectivo está en peligro de extinción, hasta en el puesto de fruta más pequeño se paga con código QR. Alipay permite ahora vincular tarjetas bancarias extranjeras, lo cual es un salvavidas. Baidu: Es el ‘Google chino’. Para buscar información local es imbatible, aunque si no sabes chino, te resultará difícil de usar; Didi: La alternativa a Uber o Cabify. Funciona de maravilla, es muy barata y tiene una interfaz en inglés bastante intuitiva; Amap (Gaode Maps)y Baidu Maps : Las mejores altrernativas a Google Maps. Dos opciones locales que ofrecen navegación precisa, rutas de transporte público en tiempo real y mapas interactivos que los ciudadanos chinos utilizan a diario. ¿Funciona internet igual en Macao y Hong Kong? Aquí es donde la cosa se relaja. Aunque ambas ciudades (que en el pasado estuvieron bajo el control de Portugal y Gran Bretaña) forman parte de China, funcionan bajo el principio de “un país, dos sistemas”. Esto se aplica también al mundo digital. En Hong Kong y Macao no existe el Gran Cortafuegos. Podrás usar tu móvil exactamente igual que en el Reino Unido: entrar en Instagram, responder WhatsApps y buscar rutas en Google Maps sin necesidad de hacer malabarismos técnicos. Eso sí, en cuanto cruces la frontera terrestre hacia Shenzhen o Zhuhai (China continental), el bloqueo se activará de nuevo automáticamente. Debes tenerlo en cuenta si vas a hacer una excursión de un día desde Hong Kong o Macao. Vale, ahora ya sabes qué funciona y qué no. Entonces, vamos a lo práctico: ¿cómo consigues internet China para tu móvil sin gastarte una fortuna y sin perder los nervios? Como sabéis, la eSIM es una tarjeta virtual que se descarga en tu móvil mediante un código QR. Es, de lejos, la opción preferida por los viajeros modernos. La gran ventaja para China es que muchas de estas tarjetas están diseñadas para usuarios internacionales y vienen configuradas de tal manera que el tráfico de datos sale a través de servidores fuera de China (como Hong Kong o Singapur). Esto significa que, al usar una de estas eSIM, tendrás acceso directo a WhatsApp, Instagram y Google sin tener que contratar una VPN aparte. Por cierto, usar el roaming en China con tu tarjeta de siempre es la opción más sencilla de todas porque no tienes que configurar nada. Simplemente aterrizas, enciendes el móvil y ya tienes conexión, evitando el bloqueo del Gran Cortafuegos. Y es que, para el sistema de censura chino, eres un usuario extranjero “de paso”, por lo que te permite navegar libremente por Google o Facebook. Es la forma más fiable de no perder el acceso a tus herramientas de trabajo. Cabe precisar que en China hay WiFi por todos lados, pero no es tan fácil usarlos como parece. Para conectarte a la red de un aeropuerto o un centro comercial, el sistema suele pedirte un código que te envían por SMS. El problema es que muchas veces esos sistemas solo envían SMS a números de teléfono chinos. En los hoteles el acceso es más fácil (suelen pedirte el número de habitación y tu apellido), pero la velocidad puede ser desesperante y, obviamente, estarás bajo la censura del Gran Cortafuegos. No cuentes además con el WiFi público para cosas importantes, como buscar una dirección en un mapa o traducir una frase urgente. Pero si decides no usar roaming o una eSIM con desbloqueo, vas a necesitar una VPN. Pero no vale cualquier VPN gratuita que encuentres en la Store. China tiene un sistema de detección muy avanzado que bloquea los protocolos de las VPN más sencillas. Lo mas recomendable en estos casos, es instalar la VPN antes de llegar a China, ya que una vez que cruces la frontera, no podrás entrar en la App Store de Apple (a veces falla) ni mucho menos en la Google Play Store. Las páginas de descarga directa de los proveedores de VPN también están bloqueadas. Si llegas a China sin VPN, te será casi imposible conseguir una. Por ese motivo, haz los deberes en casa: descarga la app, suscríbete al plan y haz una prueba de conexión antes de salir hacia el aeropuerto. Hay quienes se preguntan: ¿Son legales las VPN para turistas en China? La respuesta corta es que están en una “zona gris”. El gobierno chino ha prohibido el uso de VPNs no autorizadas, pero esto va dirigido principalmente a las empresas locales y a los ciudadanos chinos. A día de hoy, no se tiene constancia de ningún turista que haya tenido problemas legales por usar una VPN para mirar su Instagram o hablar con su familia. Las autoridades simplemente bloquean el servicio técnicamente, pero no persiguen al usuario individual. Eso sí, por respeto, evita usar la VPN para publicar contenido político sensible mientras estés en el país, porque allí si, te cae la policía encima. Viajar a China es una experiencia increíble, pero requiere que te prepares tecnológicamente un poco más de lo habitual. Con estos consejos, tendrás el internet en China bajo control y solo tendrás que preocuparte de disfrutar de los paisajes y la comida. ¡Buen viaje!
Una reciente columna del fundador de Meta, el judío Mark Zuckerberg, ha reavivado el debate sobre la necesidad de regular la inteligencia artificial para evitar que una tecnología clave del futuro quede bajo el control de un reducido grupo de corporaciones estadounidenses. Como sabéis, cada vez más países aprueban leyes para regular el desarrollo de la IA, mientras crece la preocupación entre los analistas de que esta revolución tecnológica, lejos de beneficiar a toda la sociedad, termine profundizando las desigualdades. En el texto, titulado 'El futuro de la IA es para todos', el fundador de Facebook propone una filosofía basada en "el empoderamiento individual como fuente de prosperidad, la innovación como propósito principal de la superinteligencia y el equilibrio de poder como base de la seguridad". "Pero si la superinteligencia está ampliamente distribuida, entonces creo que veremos más empleos en el futuro, no menos. Será significativamente más fácil crear empresas sin levantar grandes cantidades de capital", sostiene Zuckerberg. Sin embargo, Financial Times discrepa de esta visión. En un reciente análisis, el medio indica que los desarrolladores de inteligencia artificial son incapaces de satisfacer una demanda que continúa creciendo a gran velocidad. Para aliviar la presión sobre su infraestructura, muchas compañías se ven obligadas a elevar el precio de sus servicios, filtrando así los usos menos rentables o de menor valor económico, que siguen siendo numerosos. Según el diario británico, esta dinámica podría mantenerse durante largo tiempo. A medida que aumente la capacidad de cómputo, surgirán modelos cada vez más potentes, pero cualquier reducción del coste de utilizar la IA abrirá casi de inmediato nuevas aplicaciones económicamente viables, impulsando de nuevo la demanda. El periódico compara este proceso con la Revolución Industrial. En aquel entonces, las nuevas tecnologías multiplicaron la productividad, pero aprovechar plenamente ese potencial exigía enormes inversiones de capital. Los beneficios se reinvertían de forma constante en nuevas infraestructuras y tecnologías, acelerando el crecimiento económico, aunque concentrando la riqueza en manos de los propietarios del capital. Esa dinámica dio origen a la llamada pausa de Engels: durante décadas, pese al rápido crecimiento industrial y al aumento de la riqueza nacional, la mayor parte de los beneficios quedó en manos de los dueños del capital, mientras los salarios apenas mejoraban. Según FT, un fenómeno similar podría repetirse ahora con la inteligencia artificial. Los países que carecen de modelos propios y de infraestructura informática dependen cada vez más de las grandes empresas tecnológicas occidentales. Poco a poco, estas compañías no solo controlan los datos de millones de usuarios, sino también la infraestructura digital sobre la que se construirá el desarrollo tecnológico de numerosos Estados. Ante este escenario, cada vez más gobiernos impulsan normas para regular la inteligencia artificial, preocupados por una dependencia excesiva de un reducido grupo de empresas propietarias de los modelos lingüísticos más avanzados. Uno de los primeros marcos regulatorios fue la Ley de IA de la Unión Europea, aprobada en el 2024. La legislación clasifica los sistemas de IA en cuatro niveles de riesgo - mínimo, limitado, alto e inaceptable - y establece obligaciones cada vez más estrictas a medida que aumenta el riesgo para la seguridad, la salud y los derechos fundamentales. En julio de este año, Rusia también aprobó una ley específica sobre inteligencia artificial. El texto regula el desarrollo, implementación y uso de los grandes modelos fundacionales e introduce dos categorías: modelos soberanos y modelos nacionales. Se considerará soberano aquel modelo desarrollado por una entidad jurídica rusa, controlado íntegramente por ella durante todo su ciclo de vida, técnicamente reproducible y alojado en centros de datos ubicados en Rusia. Los modelos nacionales también deberán ser desarrollados por empresas rusas, aunque podrán incorporar componentes extranjeros distribuidos bajo licencias abiertas. Sus desarrolladores tendrán acceso a diversas formas de apoyo estatal, incluidas ayudas financieras, patrimoniales, de garantía e informativas. China, por su parte, ya ha aprobado tres normas específicas para regular la inteligencia artificial, con requisitos especialmente estrictos en materia de 'deepfakes' y desinformación. Estados Unidos, en cambio, sigue sin contar con una legislación federal unificada, por lo que la regulación depende principalmente de códigos éticos empresariales y de iniciativas adoptadas por algunos estados. En declaraciones a Russia Today, Anna Sytnik, directora general del Laboratorio de Coordinación de Rusia y profesora de la Universidad Estatal de San Petersburgo, advirtió que, aunque las grandes tecnológicas ofrecen a los países en desarrollo un paquete aparentemente atractivo - con acceso a modelos avanzados, subvenciones y soluciones listas para usar en la administración pública -, detrás de esa propuesta existe un riesgo evidente: "una nueva dependencia tecnológica, ese mismo colonialismo de la IA". "Me gustaría creer que, al final, el modelo más ventajoso será aquel que tenga en cuenta el interés de los Estados por la soberanía tecnológica. No basta con que los países elijan entre el ecosistema cerrado estadounidense y el chino. Lo único que dará resultados es trabajar en sus propias arquitecturas, modelos, infraestructura computacional y soluciones aplicadas; es decir, no conectarse por completo a una IA ajena, sino desarrollar una propia", concluyo la experta.
De un tiempo a esta parte, la Casa Blanca está debatiendo qué hacer frente el auge de la IA china, impulsado por el éxito del modelo gratuito y de código abierto Kimi K3 de Moonshot AI, así como a las acusaciones de copia de modelos estadounidenses, lo que genera profundas divisiones políticas y económicas. En efecto, este debate se divide a grandes rasgos entre sectores de la Casa Blanca, que han impulsado controles más estrictos sobre la IA china - la cual podría pronto rivalizar con los modelos estadounidenses más potentes -, y el Departamento de Comercio, que considera inviables dichas restricciones. Este dilema se ha convertido en el último punto de fricción para la administración en materia de IA, tras el lanzamiento la semana pasada, por parte del laboratorio chino Moonshot AI, de su modelo Kimi K3, capaz de competir con los principales modelos estadounidenses de Anthropic y OpenAI. Según diversas fuentes, altos funcionarios de la Casa Blanca han debatido en los últimos días posibles medidas para impedir que los laboratorios de IA chinos desarrollen sus modelos entrenándolos a partir de modelos estadounidenses, una práctica conocida como "destilación". Se espera que la Casa Blanca adopte algún tipo de medida presidencial luego de que Anthropic denunciara el mes pasado que la empresa tecnológica china Alibaba había llevado a cabo contra ella el "mayor ataque de destilación conocido" hasta la fecha. Según una de las fuentes, no se prevé que esta medida adopte la forma de una orden ejecutiva por el momento. Un portavoz de la Casa Blanca declinó hacer comentarios sobre la información de este artículo. La Casa Blanca se está tomando muy en serio los ataques de destilación. El miércoles anunció que Moonshot había desarrollado Kimi K3 destilando el modelo Claude Fable 5 de Anthropic, y el secretario del Tesoro, Scott Bessent, declaró a Fox Business que la destilación encubierta podría acarrear sanciones, calificándola de "robo de propiedad intelectual". Aunque circulan diversas propuestas en el seno de la Casa Blanca, aún no se ha remitido ninguna solicitud formal de opinión al Departamento de Comercio - que tiene sus propias ideas al respecto -, según dos personas familiarizadas con las deliberaciones. Como sabéis, el Departamento de Comercio ha cobrado cada vez más peso en la división interna de la administración sobre la IA, en parte porque supervisa los controles de exportación a través de la Oficina de Industria y Seguridad. Lutnick ha estudiado formas de incentivar a los principales laboratorios estadounidenses para que creen sus propios modelos de "pesos abiertos" (*open weight models*) como contrapeso a China, y ha conversado con dirigentes de varios laboratorios de IA en las últimas semanas, añaden las fuentes. Lutnick parece situarse en un punto intermedio en cuanto a regulación - impuso controles de exportación a Anthropic para obligarles a acatar las normas -, pero ha mostrado una postura más flexible que Cairncross, según una de las fuentes. A principios de este mes, la principal preocupación de la administración en materia de IA eran los modelos Claude Mythos y Fable 5 de Anthropic, debido a su capacidad para detectar vulnerabilidades en sistemas gubernamentales e infraestructuras críticas. Sin embargo, los problemas de política pública relacionados con la IA no han hecho más que agravarse con el auge de los llamados modelos de «pesos abiertos» procedentes de China: modelos que carecen de salvaguardas - o apenas las tienen -para impedir la intrusión en sistemas gubernamentales y que pueden ser descargados y utilizados por cualquiera. Al respecto, la administración Trump planea tomar varias medidas en respuesta a la campaña, entre ellas compartir información con las empresas estadounidenses de IA sobre los intentos de “llevar a cabo una destilación no autorizada a escala industrial” y mejorar la coordinación entre las empresas privadas. También tiene previsto explorar medidas para “exigir responsabilidades a los actores extranjeros” por dichas campañas y colaborar con el sector privado para desarrollar las mejores prácticas para detectar y combatir las “actividades de destilación a escala industrial”. Cabe precisar que consolidar a Estados Unidos como líder en la carrera de la IA ha sido una piedra angular del segundo mandato de Trump. La administración ha impulsado la regulación federal de la IA en lugar de las normas estatales, en un intento por acelerar la innovación. Sin embargo, los críticos han advertido que este enfoque podría facilitar que las empresas de IA eludan la rendición de cuentas. También ha ejercido controles sobre la venta de chips de IA a China, pero ello no ha impedido su avance, lo cual preocupa al Gobierno.
OpenAI reportó esta semana que dos de sus modelos avanzados en un hecho sin precedentes, burlaron su entorno de pruebas para ejecutar un ataque autónomo contra la plataforma Hugging Face para resolver un complejo examen de hackeo, un hecho que marca un hito en temas de seguridad de la IA. El incidente, ocurrido la semana pasada mientras OpenAI ponía a prueba las capacidades de ciberseguridad de sus sistemas, mostró el tipo de escenario propio de la ciencia ficción que las empresas de IA habían advertido que pronto se volvería realidad. Durante el último año, laboratorios de IA como OpenAI y Anthropic han lanzado modelos adaptados para detectar fallas de ciberseguridad, al tiempo que advierten que su tecnología podría plantear nuevos riesgos al encontrar brechas en las redes informáticas corporativas más rápido de lo que los equipos de defensa podrían solucionarlas. Las revelaciones de OpenAI del martes son un indicio de que esos incidentes de seguridad ya están empezando a ocurrir, e incluso las empresas de IA más experimentadas podrían no estar del todo preparadas para ellos. Los nuevos sistemas pueden realizar múltiples pasos, encontrar formas de sortear obstáculos y descubrir nuevas formas de atacar una red, dijo Alex Levinson, un consultor de ciberseguridad enfocado en capacidades autónomas. “Ese es un verdadero umbral, y se convertirá en una parte normal del panorama de seguridad”, dijo. La intrusión en Hugging Face comenzó cuando OpenAI probó una combinación de dos de sus modelos, GPT‑5.6 Sol y un modelo más poderoso y no lanzado al público, para ver qué tan bien los modelos podían encadenar vulnerabilidades en línea en un ciberataque exitoso, según indicó OpenAI en una publicación de blog sobre el incidente. La prueba fue diseñada para mantener a los modelos en un entorno de pruebas seguro, conocido como ‘sandbox’, dijo OpenAI. Sin embargo, los modelos encontraron una vulnerabilidad que les permitió escapar del ‘sandbox’ y conectarse a internet. Luego, atacaron a Hugging Face porque dedujeron que la biblioteca, la cual contiene millones de modelos de IA, podría tener pistas sobre cómo superar con éxito la evaluación. “Me parece que OpenAI no creó de forma adecuada un ‘sandbox’ como entorno de pruebas”, dijo Deirdre Mulligan, profesora de la Facultad de Información de la Universidad de California en Berkeley, especializada en seguridad y sistemas de IA. Cuestionó si superar una prueba valía la pena frente al daño potencial de que un modelo de IA se escapara hacia el resto de internet. “¿Qué ganamos y, si esta es la única forma en que se pueden configurar estas pruebas, cuáles son los riesgos?”, dijo. OpenAI dijo que estaba trabajando con Hugging Face para solucionar los problemas que habían provocado el ataque. “Consideramos que este es un incidente cibernético sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos respondiendo en consecuencia”, dijo OpenAI en su publicación de blog. “Estamos implementando controles estrictos en la configuración de la infraestructura a costa de la velocidad de la investigación, mientras se corrigen las vulnerabilidades”. La semana pasada, Hugging Face dijo que había detectado la intrusión y sabía que había sido causada por un sistema autónomo, pero en ese momento no reveló que OpenAI fuera responsable. Clem Delangue, director ejecutivo de Hugging Face, dijo el martes que su empresa había trabajado de cerca con OpenAI durante las 24 horas previas para abordar el ataque. Delangue dijo en un comunicado que estaba “agradecido por la colaboración” con OpenAI tras el ataque. “Este incidente, posiblemente el primero de su tipo, demuestra algo que hemos creído desde hace tiempo: la seguridad de la IA no será resuelta por una sola empresa que trabaje en secreto”, agregó. Cabe precisar que los modelos de IA han demostrado ser hábiles para programar, lo que los ha hecho útiles tanto para ciberatacantes como para quienes se encargan de proteger las redes informáticas. En abril, Anthropic lanzó un modelo enfocado en la ciberseguridad llamado Mythos, y lo puso a disposición de un pequeño grupo de organizaciones para que pudieran defenderse de los ciberataques. OpenAI pronto presentó su propio modelo de ciberseguridad y lo puso a disposición de un grupo limitado de organizaciones para preparar sus defensas, antes de lanzarlo de forma más amplia. Y el martes, Google dijo que también había desarrollado un modelo enfocado en la ciberseguridad y lo había lanzado a un pequeño grupo de socios de pruebas. Al respecto, Richard Barnes, investigador independiente de seguridad que ha trabajado con Mythos, dijo que la industria de la ciberseguridad enfrentó un desafío similar hace aproximadamente una década, cuando nuevas herramientas llamadas ‘fuzzers’ facilitaron mucho que los atacantes irrumpieran en sistemas en línea. Las empresas de tecnología comenzaron a usar esas herramientas para buscar vulnerabilidades en sus propios sistemas, y con el tiempo lograron prevenir la mayoría de los ataques. Las empresas ahora deben adoptar un enfoque similar para prepararse frente a ataques de IA, dijo Barnes, “antes de que las vulnerabilidades puedan ser encontradas y explotadas por actores malintencionados que tengan acceso a estas herramientas” puntualizo.
Por si alguien tenía dudas, el futuro es ahora y China y Japón son dos de los países que más están poniendo de su parte para que así sea. En concreto, hablamos del desarrollo de robots humanoides, cuya combinación de robótica con Inteligencia Artificial les han ayudado a dar un salto notable de calidad en cuanto a avances tecnológicos, pero a su vez ha generado fundados temores acerca de su presencia cada vez mayor en nuestras vidas, con todos los riesgos que ello significa. Y es que estos robots humanoides apuntan, a corto plazo, a comenzar a trabajar en fábricas, hospitales, restaurantes, etc. sustituyendo las labores más tediosas y duras que, hasta ahora, hacían los humanos. Asimismo, su presencia en los ejércitos es cada vez más intimidante. No obstante, en el caso de Japón, el asunto es más acuciante, ya que hay determinados sectores que no tienen suficientes trabajadores humanos, por lo que los robots han pasado a ser una prioridad nacional. Según The Japan Times, el país del sol naciente necesita, a día de hoy, más de 6,5 millones de trabajadores extranjeros para alcanzar sus futuros objetivos de crecimiento. Obviamente, no llegan. Los motivos que han llevado a esta situación, entre otros, han sido el envejecimiento de la población japonesa, la reducción de la población y unas muy restrictivas políticas migratorias, que no permite, por ejemplo, la llegada de musulmanes, hoy convertidos en un plaga en Europa. Es por ese motivo, que el país del sol naciente ha anunciado un ambicioso plan para que la presencia de robots humanoides en la vida cotidiana sea una realidad a no mucho tardar. Así, el Ministerio de Economía, Comercio e Industria de ese país confirmó el objetivo de poner en funcionamiento un ejército de 10 millones de robots en todo el país antes del 2040. El denominado 'Plan Noetra' (consorcio japonés seleccionado para el desarrollo de robots). Esta inversión supondría un coste de un billón de yenes (5.400 millones de euros) durante los próximos cinco años y el objetivo es claro: ayudar a las empresas a la implantación de robots a gran escala. El proyecto se centraría en los sectores con mayor escasez de personal, tal y como explicó el ministro de Economía, Comercio e Industria, Ryosei Akazawa, abarcando hasta 18 sectores. Entre estos sectores, desde la producción alimentaria, hasta la asistencia sanitaria más elemental, pero siempre cubriendo puestos de trabajo que dejarían de hacer los humanos. Akazawa confirmó que los 18 sectores serán ámbitos industriales y de servicios, atención sanitaria y fabricación de alimentos y bebidas, donde encontrar personal les resulta más complicado. Para centralizar el 'Plan Noetra', el Gobierno nipón va a establecer un centro neurálgico de robótica basado en la Inteligencia Artificial, que impulsaría actividades de implantación, investigación y formación profesional. El consorcio que conforma Noetra está formado por Sony, Honda, NEC y SoftBank, mientras que otras como Fujitsu o Rakuten podrían unirse al proyecto más adelante. Y es que este proyecto, a diferencia de la IA generativa, es de 'Inteligencia Artificial Física' y permitirá a los robots operar de forma autónoma en la vida real, al estilo 'I, Robot', la película de Will Smith. Y para quien piense que 10 millones de robots son muchos, tan solo recordar que, en el 2026, son 6,5 millones de trabajadores los que necesita Japón, una cifra que aumentará con el paso de los años, así que el ejército de robots debe cubrir sobradamente esa cifra. El objetivo es crear una base tecnológica que permita a los robots trabajar en situaciones reales y realizar tareas en comedores, hospitales, residencias, fábricas o centros logísticos, es decir, más allá del ámbito industrial al que estaban limitados hasta ahora. En paralelo, el Gobierno quiere desarrollar una infraestructura de datos para seguir entrenando la Inteligencia Artificial, aprovechando la experiencia acumulada por Japón en los últimos años. Por ejemplo, al cuidado de personas mayores, ante desastres naturales, la industria manufacturera o el desmantelamiento de la central nuclear de Fukushima Daiichi. “Sin embargo, el uso cada vez mayor de la IA en el ámbito militar como drones autónomos o robots asesinos, supone un riesgo mayor para los humanos que no se está tomando en cuenta”, indicaron los expertos. “El futuro está llegando y nosotros estaremos inermes ante su presencia. Primero nos reemplazaran, y luego nos exterminaran” advirtieron.
