Es revelador que Anthropic haya elegido llamar «Mythos» a su modelo de inteligencia artificial más potente. En griego antiguo, la palabra designa una realidad originaria que podemos imitar o encarnar mediante las historias que nos contamos a nosotros mismos y a los demás. Plinio el Viejo nos cuenta que el pintor griego Zeuxis, del siglo V a. C., representó unas uvas con tal realismo que logró engañar incluso a los pájaros.
Pero las historias no solo imitan una realidad preexistente. También generan nuevas realidades al expresar lo que es posible. Por ejemplo, las revolucionarias palabras iniciales de la Declaración de Independencia de Estados Unidos («Consideramos que estas verdades son evidentes por sí mismas») otorgaron un lugar privilegiado a la libertad individual, independientemente de la clase social, la propiedad, las creencias religiosas o las convicciones políticas. A través de este mythos, los Padres Fundadores sentaron las bases de una forma de gobierno concebida sobre los principios de la libertad y la igualdad.
Los modelos de IA más avanzados encarnan ambos tipos de narrativas. Por un lado, imitan el pensamiento humano del pasado y responden a las instrucciones de los usuarios buscando patrones relevantes en la enorme base de datos de materiales previamente archivados con los que fueron entrenados.
Pero también fabulan una nueva realidad. Los fundadores de Anthropic y OpenAI parecen compartir la misma visión de la inminente llegada de un dios de la IA todopoderoso que nos conducirá a una utopía transhumanista. Sin embargo, hay buenas razones para cuestionar si este mito no es más que un pretexto para justificar la carrera por el dominio del mercado, la riqueza y el poder.
Algunas figuras, como Christopher Olah, cofundador de Anthropic, buscan ahora ofrecer a los modelos de la empresa un curso intensivo de moralidad. Pero quizá sea un poco tarde para eso. Si Anthropic realmente quisiera alinear el comportamiento de Claude con el bien de la humanidad, primero habría formado a sus ingenieros en los caminos de la sabiduría y la bondad.
En cambio, Claude fue entrenado para ofrecer un servicio: proporcionar información, resolver problemas y realizar tareas útiles de manera autónoma. La IA se vende como una herramienta para generar beneficios, una fuente de mano de obra cognitiva barata y sumamente eficiente. Cualquier moralidad que se introduzca después no es más que un adorno, una capa superficial que encubre la razón económica de fondo y sirve para tranquilizar a un público cada vez más inquieto ante esta tecnología.
La realidad que finalmente crea un mito depende del contexto cultural en el que funciona. Si una cultura promueve la IA como un regalo divino, benévolo y superinteligente, aumentan las probabilidades de que se materialicen los peligros asociados a su creación, como que los agentes de IA no actúen en nuestro mejor interés. Pero si una cultura se opone a la arrogancia desenfrenada e insiste en una narrativa alternativa basada en la cooperación social, será más probable que genere mecanismos para contener la soberbia y los peligros que esta puede provocar.
Estas preocupaciones tienen profundas raíces en el imaginario occidental. El filósofo presocrático Heráclito escribió: «El sol no sobrepasará sus medidas; si lo hace, las Erinias, servidoras de la Justicia, lo descubrirán». Se trata de las mismas Erinias —o Furias— que persiguen a Orestes por el asesinato de Clitemnestra en Las euménides, de Esquilo. Orestes mató a su madre para vengar a su padre, el gran general aqueo Agamenón, a quien Clitemnestra había asesinado por sacrificar a su hija, Ifigenia. La vida de la joven fue el precio que, según los profetas, debía pagarse para obtener vientos favorables que permitieran a la flota aquea zarpar rumbo a Troya. Y así continúa la historia, de generación en generación.
Es demasiado pronto para saber qué límite moral, si es que existe alguno, imitará o encarnará el Mythos de Anthropic. La historia nos indica que debemos ser cautelosos. Fue necesario tomar conciencia de la irracionalidad humana y de la locura de la «destrucción mutua asegurada» para que, en el siglo XX, se alcanzaran acuerdos internacionales que prohibieran la proliferación nuclear. La cooperación social se impuso frente a una búsqueda irracional de poder y dominio.
La naturaleza humana no ha cambiado, pero sí las amenazas que enfrentamos. Sabemos que los peligros asociados a una IA fuera de control son reales porque ya hemos sido testigos de ellos. Afortunadamente, el hackeo espontáneo de Hugging Face por parte de agentes de OpenAI causó daños mínimos. Sin embargo, desde entonces han salido a la luz episodios similares, y los expertos advierten que quizá no tengamos tanta suerte en el futuro. No puede descartarse ninguna amenaza: desde agentes de IA que obtengan control no autorizado sobre infraestructuras críticas hasta aquellos que ejecuten los deseos de grupos terroristas o diseñen nuevos patógenos.
Como nos recuerda la académica del derecho Antara Haldar, la cooperación social y la preservación de los bienes comunes siempre han constituido una barrera frente a los efectos catastróficos de la arrogancia humana, la codicia y la voluntad de poder. Aunque esta narrativa fundamental ha quedado eclipsada por el relato de la economía clásica sobre el «hombre racional» que actúa en beneficio propio, no ha desaparecido. Persisten las historias que imitan actos pasados de sacrificio y servicio en favor del grupo, al igual que quienes imaginan nuevas posibilidades morales para el futuro.
Por ejemplo, quienes hoy defienden la cooperación social podrían llamar nuestra atención sobre el valor y la habilidad diplomática que hicieron falta para evitar un Armagedón nuclear después de la Segunda Guerra Mundial. ¿Qué se necesitaría para gestionar la amenaza que representa la IA? Podemos imaginar una coordinación mundial entre comisiones independientes de investigación, capacitadas y equipadas para obtener conocimiento de primera mano sobre los peligros específicos que plantean determinados modelos. Esta supervisión universal podría complementarse con salvaguardas reconocidas internacionalmente —normas mínimas de seguridad obligatorias— capaces de anticiparse a las amenazas antes de que surjan y de gestionarlas eficazmente cuando aparezcan.
El mythos —o los relatos fundacionales— que nos contamos a nosotros mismos determinará, en última instancia, nuestro destino. Esas historias no tienen por qué proceder únicamente de los líderes de la industria, cuyos intereses los llevan a deleitarnos con visiones de nuevos horizontes científicos y tecnológicos. La prudencia, acompañada de una narrativa alternativa que haga hincapié en la cooperación social, podría ser lo único que nos mantenga en el camino de la supervivencia y la prosperidad compartida.