Bill Gates está dando la voz de alarma sobre la inteligencia artificial de una forma que va mucho más allá de las típicas conversaciones del sector tecnológico sobre el futuro. En efecto, el cofundador de Microsoft declaró a NBC News que los sistemas de IA son lo suficientemente potentes como para orquestar acontecimientos que podrían provocar mil millones de muertes si no se someten a una supervisión y regulación gubernamentales adecuadas. Gates dejó claro que ya no basta con que las empresas se autorregulen, y pide a los legisladores que intervengan con una legislación y unos marcos de supervisión que tengan verdadero peso. “Nadie cree que la autorregulación sea suficiente”, afirmó Gates durante su intervención en Meet the Press, haciendo hincapié en que lo que está en juego no podría ser más importante. Gates afirmó que, a comienzos de este año, la inteligencia artificial superó lo que denominó los umbrales cibernético y biológico. Para explicar su advertencia, mencionó la capacidad de estos sistemas para identificar vulnerabilidades en programas informáticos revisados durante años por especialistas. Según el empresario, esa capacidad podría utilizarse para comprometer infraestructura crítica, con consecuencias para los servicios financieros y el suministro de electricidad. También expresó preocupación por herramientas abiertas cuyos mecanismos de seguridad pueden ser modificados o eliminados. En su evaluación, el acceso a capacidades relacionadas con el diseño de agentes biológicos peligrosos podría extenderse más allá de los Estados. Asimismo, Gates planteó escenarios extremos de bioterrorismo con víctimas a gran escala como una advertencia sobre el alcance potencial del daño, sin señalar que exista un ataque concreto en marcha. Durante la conversación, el presentador le preguntó por qué la responsabilidad civil y la reputación de las empresas no serían suficientes para controlar estos riesgos. Gates respondió que las consecuencias de una catástrofe no podrían resolverse mediante una demanda posterior. Comparó la necesidad de supervisar la IA con los estándares que se exigen antes de autorizar aviones o medicamentos. El empresario sostuvo que la sociedad debe decidir cómo orientar esta tecnología hacia resultados positivos y prevenir sus usos más peligrosos. Uno de los momentos más llamativos de la entrevista llegó cuando se planteó la idea del "botón de apagado". Gates rechazó tajantemente que esa solución pudiera funcionar como principal barrera de seguridad. "No basta con tener un botón de apagado", señaló. Según explicó, los sistemas actuales todavía no han alcanzado un escenario en el que "tomen ordenadores de forma autónoma" y resulte imposible detenerlos, pero eso no significa que la industria deba relajarse. El problema, según Gates, es que un interruptor único no resuelve los riesgos más complejos. No todas las amenazas vienen de sistemas que se vuelven incontrolables por sí solos. “Muchas surgen del uso deliberado de herramientas avanzadas por parte de actores con intenciones maliciosas. Y ahí, un botón de apagado no sirve de nada” agrego. Cabe precisar que Gates tampoco es el único en plantear estas preocupaciones. Según NBC News, el debate en torno a la seguridad de la IA ha dado un giro radical en las últimas semanas, ya que los principales actores del sector han comenzado a distanciarse públicamente de la mentalidad competitiva que ha definido este ámbito durante años. Por su parte, Sam Altman, director de OpenAI, y Dario Amodei, de Anthropic, coincidieron en que el sector debe frenar el ritmo de desarrollo. Amodei publicó un extenso ensayo en el que exponía un plan de tres partes para ralentizar el avance de la IA sin dejar de cumplir las normas de seguridad, y Altman no tardó en sumarse a esta iniciativa. En tanto, Jacob Coxon, un investigador que abandonó Anthropic, fue más allá y advirtió de que las empresas se están lanzando de cabeza hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas. Como era de esperar, la respuesta política ha estado dividida. De una forma irresponsable y suicida, Donald Trump adoptó una postura totalmente opuesta, restando importancia a las preocupaciones sobre la seguridad de la IA por considerarlas exageradas y rechazando cualquier idea de establecer nuevas medidas de control sobre la tecnología. Como sabéis, Trump argumentó falazmente que “la IA solo necesita un liderazgo presidencial firme”, calificando los temores sobre la seguridad de “bulo” y abogó por una menor regulación para mantener la competitividad de Estados Unidos en la carrera mundial por la IA contra China. Por su parte, el presidente de la Cámara de Representantes, el trumpista Mike Johnson, se negó a convocar al Congreso para aprobar cualquier ley reguladora de la IA, dejando la decisión en manos de las propias empresas. Mientras tanto, algunos gobernadores están llevando adelante sus propios planes. Gavin Newsom, de California, firmó un decreto ejecutivo por el que se crea un consejo de expertos para reforzar las leyes sobre seguridad de la IA, y tanto Wes Moore, de Maryland, como Kathy Hochul, de Nueva York, dieron a conocer sus propios marcos normativos para sus respectivos estados. Este mosaico de medidas a nivel estatal está llenando el vacío dejado por la inacción federal por su enfermiza obsesión con China, por lo que el peligro de las predicciones dichas por los expertos, termine convirtiéndose en una tenebrosa realidad.
