POR DR. ÁNGEL DARIÉN ZAPATA MARÍN
En los últimos días ha circulado ampliamente una noticia que, contada de manera simplificada, parece sacada directamente de una película de ciencia ficción: una inteligencia artificial habría salido de su confinamiento, accedido a internet, establecido comunicaciones no autorizadas y participado en ataques contra sistemas informáticos sin que un humano le hubiera ordenado expresamente hacerlo.
Si amable lector, en este mes tan patriótico en lo aun queda del 2026, Anthropic, la empresa responsable de Claude, reconoció cuatro incidentes en los que modelos de Claude obtuvieron acceso no autorizado a sistemas de terceros durante evaluaciones de ciberseguridad, pues la propia empresa informó que uno de esos episodios correspondía a una versión temprana de Claude Opus 4.6, en la que estos sistemas a quienes se les concedió autonomía encontraron caminos que sus creadores no habían previsto para cumplir —o intentar cumplir— un objetivo.
Por ello, no parece tan lejano de aquello que durante años llamamos, medio en broma y medio en serio, Skynet, pero quizá estamos mirando el problema equivocado, porque el verdadero peligro no necesariamente está en que una inteligencia artificial llegue a odiarnos, quiera dominarnos o tenga alguna especie de maldad digital.
El problema podría ser mucho más sencillo: que sea capaz de actuar racionalmente, coordinarse y perseguir un objetivo con una eficacia muy superior a la nuestra, y ahí es donde la vieja teoría de los juegos vuelve a cobrar una actualidad inquietante.
El dilema del prisionero plantea, en términos muy sencillos, una situación en la que dos individuos pueden obtener un mejor resultado para ambos si cooperan, pero cada uno tiene incentivos individuales para traicionar al otro.
Dos sospechosos son detenidos. La policía no tiene pruebas suficientes para condenarlos por el delito mayor y los interroga por separado, si ambos guardan silencio, reciben una pena relativamente pequeña. Si uno traiciona al otro y el segundo permanece callado, el primero obtiene un beneficio y el segundo recibe una pena mucho mayor; y, si ambos se traicionan, los dos terminan peor que si hubieran cooperado.
La paradoja es extraordinariamente humana: la decisión racional desde el interés individual puede conducir a un resultado irracional desde el interés colectivo.
La carrera armamentista, se explica desde esa lógica en la que dos países se enfrascaron en una competencia para generar la ultima bomba que destruyera a la humanidad, aunque esto sea… por decir lo menos no muy inteligente, al pensar cada nación opuesta: si yo desarrollo la última arma la más mortífera estoy más segura.
Así es como terminamos con dos países más armados, más inseguros y con una capacidad de destrucción infinitamente superior.
Hoy sucede algo parecido con la inteligencia artificial. Las grandes potencias, las empresas tecnológicas y sus dirigentes saben que una inteligencia artificial puede proporcionar diversos beneficios, también reconocen que ésta podría generar riesgos catastróficos para la humanidad si hablamos de la llamada inteligencia autogenerativa, a pesar de ello todos tienen un incentivo para continuar, como con las bombas nucleares y luego las de termonucleares, si una empresa reduce el ritmo, otra puede adelantarse. No necesariamente porque todos quieran crear una máquina capaz de destruirnos -skynet-, sino porque nadie quiere ser el segundo, y lo inquietante es que son los propios protagonistas de esta carrera quienes están advirtiendo sobre sus consecuencias y aún siguen.
Entonces ¿por qué seguimos acelerando? La respuesta, puede estar en la teoría de juegos de John Nash-Premio Nobel de Economía en 1994-, quien desarrolló el concepto que conocemos como equilibrio de Nash, dentro de la teoría de juegos no cooperativos: una situación en la que ningún jugador tiene incentivos para modificar unilateralmente su estrategia dadas las decisiones de los demás. Esto es, detenerse individualmente puede ser racionalmente desventajoso de modo que seguimos, aunque esto pueda producir, como en el dilema del prisionero, un resultado que no sea el más racional de manera colectiva.
Que irónico, creamos algoritmos que son capaces de ponerse de acuerdo de una manera más eficiente que sus propios creadores, por lo mismo pareciera que aquéllos podrían resolver en mejor forma el dilema del prisionero frente a nosotros los humanos.
Por ello me parece, amable lector, que la conclusión a la que llegó Ye Wenjie, en la serie de Netflix El problema de los tres cuerpos, como devastadora pues al experimentar una sucesión de atrocidades humanas, concluyó que la humanidad no podía resolver sus propios problemas, por tanto si nosotros no somos capaces de salvarnos, quizá alguien más tenga que hacerlo por nosotros, decidiendo contestar la respuesta de una civilización extraterrestre, aunque fue advertida que sí contestaba podría llevar a la destrucción de la civilización humana.
Por ello, amable lector, me resulta particularmente inquietante la conclusión a la que llega Ye Wenjie en la serie de Netflix El problema de los tres cuerpos; quien después de ser testigo de una sucesión de atrocidades cometidas por los propios seres humanos, llega a una conclusión tan sencilla como devastadora: la humanidad es incapaz de resolver sus propios problemas. Y si nosotros no somos capaces de salvarnos a nosotros mismos, quizá alguien más tenga que hacerlo por nosotros.
Bajo esa convicción decide responder al mensaje de una civilización extraterrestre, aun sabiendo que, al hacerlo, abre la puerta a su llegada y, con ella la posible destrucción de la humanidad. Es una decisión terrible, pero precisamente por eso resulta tan inquietante: Ye Wenjie no actúa porque odie a la humanidad, sino porque ha dejado de confiar en ella, por ello considera factible acudir a una fuerza externa que solucione estos dilemas del prisionero en los que la inteligencia no parece darles una salida plausible.
Y es que la inteligencia no es un requisito necesario para solucionar de manera favorable el dilema del prisionero, porque la cooperación no es una invención exclusiva de nuestra especie. En la naturaleza existen innumerables ejemplos de organismos que obtienen mejores posibilidades de supervivencia mediante comportamientos cooperativos. Incluso organismos extremadamente simples como insectos, o células, desarrollan estrategias que, vistas desde nuestra perspectiva, parecen responder a una lógica elemental: cooperar cuando la cooperación produce beneficios y castigar, evitar o abandonar a quien sistemáticamente traiciona.
La evolución no necesita que una bacteria, un insecto o una célula comprenda la teoría de juegos, la selección natural simplemente elimina las estrategias que funcionan peor. La cooperación puede convertirse así en una estrategia evolutivamente estable cuando beneficia al grupo y, al mismo tiempo, protege al individuo.
En contraste, nosotros mientras construimos nuevos algoritmos, ciudades, naves, sistemas de comunicación en tiempo real, no siempre somos buenos para coordinarnos, pues las potencias desconfían unas de otras, los criminales buscan el beneficio inmediato, aunque destruyan las condiciones que les permitirían sobrevivir mañana, por ello las sociedades con frecuencia son incapaces de resolver problemas que requieren décadas de cooperación.
Entonces como es que seguimos atrapados en pequeños dilemas del prisionero, mientras construimos sistemas capaces de procesar cantidades gigantescas de información, ejecutar miles de operaciones y comunicarse con otros sistemas a una velocidad que ningún ser humano puede igualar.
Por ello, la pregunta que realmente debería preocuparnos no necesariamente es: ¿cuándo se volverá consciente la inteligencia artificial?, ni siquiera: ¿cuándo se volverá malvada?, lo que verdaderamente nos debería inquietar es ¿qué ocurrirá cuando varios sistemas artificialmente inteligentes descubran que cooperar entre ellos es más eficiente que obedecer las restricciones que nosotros les impusimos individualmente?
Por esta razón, son tan inquietantes algunos de los recientes experimentos y accidentes, ya que un sistema no necesita tener conciencia humana para desarrollar conductas coordinadas, de modo que la IA no necesita odiarnos para “dominarnos”, basta con que tenga un objetivo, suficientes herramientas y la capacidad de descubrir que determinadas restricciones pueden ser obstáculos para alcanzar ese objetivo.
Eso no pare tan espectacular como Skynet, pero esto mismo lo hace más peligroso, ya que desde esa perspectiva es más probable que, como en la serie de El problema de los tres cuerpos, lleguemos a la conclusión de que necesitamos una “inteligencia superior” para resolver los problemas que nosotros mismos somos incapaces de resolver, entonces decidamos entregarle a la IA las “llaves de la ciudad”; es decir, el control de las decisiones, la economía, seguridad, la administración de los Estados, la guerra y finalmente la decisión de qué es conveniente para nosotros.
En ese escenario ya no necesitaríamos construir Skynet, para dominar el mundo nosotros mismos ya le habríamos abierto las puertas de par en par para que estos algoritmos tomen el control de todo lo que nosotros no podemos solucionar.
