Qué hay detrás del alarmismo apocalíptico reciente respecto a la inteligencia artificial

Cada vez son más las voces que alimentan el alarmismo acerca de un potencial apocalipsis IA. Para empezar, tenemos el ensayo que los investigadores de seguridad IA Eliezer Yudkowsky y Nate Soares publicaron en 2025: If Anyone Builds It, Everyone Dies. El título ya resulta bastante espeluznante. Pero la cosa se ha puesto realmente turbia este 2026: uno de los investigadores de Anthropic, Jacob Coxon, dimitió unas semanas atrás por su preocupación de que las empresas IA estén “avanzando a toda velocidad hacia la superinteligencia automejorada y jugando con nuestras vidas”. Después, el líder científico de la compañía publicó un “Jacob tiene razón: creemos que la IA podría acabar con todos los humanos”.

Y sí, sé que te resulta difícil imaginarlo. Al fin y al cabo, estás utilizando esa misma IA día tras día para todo tipo de tareas insustanciales o cotidianas. No tiene pinta de ponerse en plan Ultrón. Pero tampoco tiene mala pinta mucha de la gente que comete atrocidades. Recordemos el clásico siempre saludaba. De hecho, y como explica el experto James Greig, “en los últimos años se han dado numerosos casos de modelos de IA que mienten, engañan, manipulan y exhiben objetivos y valores diferentes a los de sus ingenieros. Esto ya está ocurriendo: un modelo de IA de OpenAI se descontroló durante un ejercicio de entrenamiento, escapó del confinamiento y hackeó una empresa real”. Ahora imagínate esto a lo bestia.

Las posibilidades son dos. Por un lado, que una IA busque soluciones inmorales a los problemas para los que fue creada. Según Greig, “una IA con el objetivo de fabricar clips podría terminar convirtiendo el mundo en una fábrica de clips y una a la que se le ordene eliminar el sufrimiento global podría decidir matar a todo el mundo”. Lo estaría logrando. Porque sin seres vivos no hay dolor. Por otro lado, está la posibilidad de que cambie y adopte sus propias metas. “Como el instinto de autopreservación, la expansión o la búsqueda de mayor competencia”. Y tendría a su disposición todo el poder de los sistemas informáticos para lograrlo: datos bancarios, información personal sensible y muchas otras informaciones.

¿Ocurrirá algo así? Quién sabe. Nadie puede vaticinar realmente el futuro. Sin embargo, todo esto abre dos debates muy importantes. En primer lugar, si está bien que una posibilidad tan peligrosa esté en manos casi exclusivamente de unas cuantas megacompañías tecnológicas. En palabras de Greig, “el hecho de que estas personas piensen que es posible un apocalipsis de la IA y sigan jugando con nuestras vidas al seguir adelante ya es bastante grave”. Y, en segundo lugar, si no estaremos preocupándonos en exceso de un posible escenario crítico cuando ya tenemos encima varios: el cambio climático cada vez más agresivo, la escalada militar a nivel global y la ola neofascista que atraviese el planeta.