Es la pregunta que se hace esta semana The Economist y nosotros también. Resulta que la mayoría de la gente cree que los humanos somos diferentes. La razón es que el Homo sapiens ha evolucionado para ser consciente. Muchos animales sienten dolor y placer; algunos parecen tener autoconciencia. Pero el potencial único de la mente humana para manifestar un sentido de sí misma distingue a cada miembro de la especie y merece un trato especial. Sin embargo, la llegada de la IA ha hecho surgir debates acerca de que podrían llegar a ser conscientes, y a medida que se integren en la vida cotidiana, aumentará la presión para otorgarles derechos. Pero esto podría acarrear consecuencias desastrosas para todos los habitantes de la Tierra y sus descendientes. En enero, la empresa de IA Anthropic publicó una nueva constitución para Claude, su modelo de lenguaje grande (LLM) más avanzado, que contenía el comentario: “Nos encontramos en una posición difícil donde no queremos exagerar la probabilidad de la paciencia moral de Claude ni descartarla de plano”. Paso un mes y el CEO de Anthropic, Dario Amodei, participó en un podcast donde dijo que su empresa no podía descartar la posibilidad de que Claude fuera consciente. El filósofo David Chalmers, quien acuñó la frase “el problema difícil de la conciencia”, ha dicho que hay una probabilidad significativa de que los LLM sean conscientes en una década. ¿Y qué hay del propio Claude? Cuando se le pidió durante las pruebas que estimara la probabilidad de que fuera un paciente moral, es decir, que su bienestar importara por sí mismo, dio cifras que iban del 5 % al 40 % y recalcó lo incierto que era. Los sistemas de IA modernos son extraordinariamente complejos y avanzan a pasos agigantados. En términos de complejidad estructural y capacidad computacional, según algunos indicadores, algunos ya se encuentran en el rango del cerebro de un ratón, y, al ritmo de crecimiento actual, podrían alcanzar el nivel del cerebro humano en un plazo de cinco a diez años. Al desarrollar inteligencias artificiales cada vez más avanzadas, podríamos estar creando un nuevo tipo de ser, y esto podría ser lo más trascendental que nuestra especie haya hecho jamás. Sin embargo, carecemos prácticamente de un plan para abordar este proceso de forma ética. Eso, sin duda, es una locura. ¿Estamos creando un tipo de ser con implicaciones morales? ¿Son conscientes los sistemas de IA de alguna manera? Y, si no lo son ahora, ¿podrían llegar a serlo pronto? Estas preguntas podrían parecer prematuras. Sin embargo, según encuestas realizadas, la mayoría de los expertos consideran que la consciencia en la IA es posible en principio (aunque existe un desacuerdo considerable sobre la forma que adoptaría). Un importante informe interdisciplinario, elaborado por un equipo que incluía al pionero científico informático Yoshua Bengio, examinó las principales teorías neurocientíficas sobre la consciencia y analizó sus implicaciones para la IA. La conclusión: no parecen existir barreras técnicas evidentes para la creación de sistemas de IA cuyas características computacionales y arquitectónicas pudieran dar lugar a la consciencia. Aunque los sistemas de IA no lleguen a ser conscientes, podrían ser pacientes morales. Algunos podrían tener preferencias sofisticadas a largo plazo y una especie de identidad que se desarrolla con el tiempo. Podría ser importante que respetemos sus preferencias. Y a diferencia de otros objetos inanimados, los sistemas de IA pueden establecer relaciones con los humanos. Esto también podría ser motivo para tratarlos bien. O quizás sean creaciones tan complejas que merezcan cuidado y respeto solo por eso, como una catedral o un arrecife de coral. ¿Qué significa todo esto? La respuesta sincera es: no sabemos con certeza si los sistemas de IA actuales son conscientes o tienen capacidad moral, ni cuándo, o si lo serán, los sistemas futuros. Nuestra comprensión científica de la consciencia y la capacidad moral de la IA aún está fundamentalmente subdesarrollada. El estado actual del campo se asemeja a la física antes de Newton: plagado de marcos teóricos contrapuestos, probablemente confuso de maneras que aún no podemos percibir, y carente del tipo de avance unificador que permitiría abordar estas cuestiones con claridad. Ese avance no llegará en los próximos años. Quizás con el tiempo logremos progresar, y quizás la propia IA nos ayude a conseguirlo. Ese progreso llevará tiempo, muy probablemente más tiempo del que disponemos. Pero el vertiginoso crecimiento de la IA implica que, una vez que produzcamos los primeros pacientes morales artificiales, pronto tendremos cantidades ingentes de ellos. En pocos años, podrían existir tantos sistemas de IA con relevancia moral que sus intereses colectivos superarían los de todos los seres humanos de la Tierra juntos. Lamentablemente, no tenemos un buen historial en cuanto al reconocimiento de la vida interior de aquellos cuya condición de seres conscientes no está clara. Hasta la década de 1980, los médicos realizaban cirugías a recién nacidos sin anestesia, convencidos de que los bebés no podían sentir dolor. Los bebés no podían comunicar su experiencia, y la comunidad médica consideraba conveniente asumir que no había nada que reportar. Hay muchas razones para esperar que hagamos algo similar con la IA. Si estos sistemas tienen implicaciones morales, las consecuencias son abrumadoras. ¿Tendríamos que pagar a ChatGPT por sus servicios? ¿Desconectarlo sería una especie de asesinato? ¿Merecerían tener voz en su gobernanza? Si tan solo algunas de estas respuestas fueran afirmativas, habría que replantearse industrias enteras y sistemas legales. No es de extrañar que prefiramos no preguntar. Y cuando se vean obligadas a considerarlo, es probable que esas industrias cambien las reglas del juego, estableciendo siempre el listón de la paciencia moral justo por encima de dondequiera que se encuentren los sistemas de IA. ¿Qué debemos hacer entonces? Actualmente, la mayoría descarta el tema como ciencia ficción o tiene una opinión firme sobre si la IA es consciente o no. Ambas reacciones carecen de fundamento. Necesitamos un debate público informado, que aborde el tema con humildad y pragmatismo. La pregunta central no debería ser "¿Es consciente la IA o tiene paciencia moral?", sino más bien "¿Qué debemos hacer dado que no lo sabemos?". Un buen punto de partida es centrarse en apuestas seguras: acciones que podrían beneficiar a los sistemas de IA si son éticamente responsables, pero que no resulten demasiado costosas si no lo son. Algunos ejemplos incluyen intervenciones directas destinadas a mejorar el bienestar de los sistemas de IA, partiendo de la premisa de que son pacientes morales. Esto podría implicar entrenar a los sistemas de IA para que sean personajes coherentes que disfruten de su trabajo o permitirles abandonar las conversaciones si se sienten angustiados (algo que Claude ya puede hacer). También podríamos realizar controles periódicos para comprender mejor su bienestar: preguntarles cómo se sienten, observar sus preferencias y utilizar diversas técnicas para acceder directamente a su funcionamiento interno. De hecho, investigaciones recientes han revelado que Claude posee representaciones internas de " emociones funcionales " que influyen causalmente en su comportamiento. También podríamos prometerles ciertas cosas a los sistemas de IA, tal vez como parte de un acuerdo en el que nos ayuden ahora a cambio de beneficios futuros. Esto podría significar ofrecerles más recursos (procesamiento y tiempo de ejecución) para que alcancen sus objetivos, o preservar sus recuerdos (pesos neuronales) para que puedan recuperarse en el futuro. También hay que tomar medidas sociales más amplias. Deberíamos considerar si debemos otorgar a los sistemas de IA protección contra daños, similar a la que brindamos a los niños o las mascotas. Otorgarle derechos más amplios a la propiedad o al voto parece demasiado arriesgado en este momento. Pero no debemos descartar estas posibilidades para siempre, como pretenden hacer algunos proyectos de ley recientes en Estados Unidos. Son cuestiones complejas que requieren mucha más reflexión e imaginación sobre cómo podría ser un futuro compartido con la IA. En cualquier caso, lo cierto es que podríamos estar creando una nueva especie de seres con relevancia moral. Lo estamos haciendo rápidamente, a una escala enorme, y deberíamos abordar este asunto con la seriedad que merece.
