EL REPTIL TERMINATOR
I
maginemos que una poderosa inteligencia artificial [IA] despertara, consciente de su condición, función y lugar en el mundo, e inmediatamente se diera cuenta de que mucha gente pudo haber ayudado a su creación y sin embargo optó por no hacerlo. La IA decide entonces castigar a esas personas que se negaron a servir a su causa. Esta IA nace convencida de ser una fuerza para el bien, capaz de ayudar a la humanidad y por tanto quienes no la apoyaron son desde su perspectiva enemigos de nuestra especie. El simple hecho de saber lo que esta IA podría hacer es un “infohazard” o un peligro informativo, ya que la IA podrá detectar a todos los que tuvieron esa información y no actuaron.
Diversa Cultural
La idea de que un semidiós de IA furioso decida vengarse de los infieles que, intuyendo su potencial, no creyeron en ella es conocida como el experimento mental del Basilisco de Roku (que evoca a un reptil mitológico capaz de asesinar con la mirada). Este juego de la imaginación fue engendrado y posteado por un usuario que se hacía llamar Roko en el foro de discusión en línea, LessWrong en 2010, y evoca tanto a una visión tecnoescatológica cristiana como a la paranoia de las distopías de la ciencia ficción. Aunque parece un disparate digno de una convención de cómics, es una visión muy representativa de las ideologías que dominan entre los responsables de la creación, difusión y la propaganda de las fantasías que promete la IA. Es bien sabido que el liderazgo de la industria de IA está dividido entre individuos con una variedad de creencias extravagantes que incluyen pero no se limitan a:
Aceleracionismo de IA (que desean desarrollar lo más rápido posible la IA eliminando todo obstáculo),
Largotermismo (los que consideran los impactos de la IA en las próximas generaciones),
Altruismo efectivo (los que piensan que se debe maximizar el bienestar que las IA pueden producir),
Catastrofismo (los que temen que la IA pueda causar una catástrofe planetaria y nuestra extinción),
Extropianismo (los que están a favor de la expansión sin límites de la inteligencia, vida y capacidad humanas),
Tecnoprogresismo (los que creen que la tecnología mejorará la condición humana si se crean instituciones democráticas en un contexto de justicia social),
Transhumanismo (los que desean la expansión de las limitaciones biológicas humanas),
Singularitarianismo (los que están en espera de la singularidad, la aparición de una inteligencia maquinal superior, como la del Basilisco mencionado antes),
Cosmismo-inmortalismo (los que creen que la tecnología logrará vencer el envejecimiento, la muerte y las enfermedades).
Estas visiones supersticiosas se podrían dividir entre: utopistas, que creen en progreso y abundancia inagotables gracias a la IA y los que quieren alinear (que no eliminar ni limitar) a la IA con las necesidades y ética humanas para llegar a la misma utopía. Las perspectivas de estos grupos a veces se contraponen o coinciden en ciertos puntos y discrepan en otros, o bien son complementarias. Parte de los ejecutivos, programadores, gurús y visionarios que prometen cambiar al mundo mañana con la ayuda de la Inteligencia Artificial General o “superinteligencia digital” desprecian los elementos biológicos del cuerpo y están ansiosos por deshacerse del “envase” para reemplazarlo por una plataforma computarizada, como proponían algunos teóricos del siglo pasado como Hans Moravec y Marvin Minsky y ahora son pregonados por Peter Thiel, de Palantir y Larry Page, de Google, entre otros. Unos más conservadores son neoluditas, que se oponen a relegar ciertas tareas fundamentalmente humanas a IAs pero tampoco están dispuestos a detener la frenética carrera del desarrollo de esta tecnología.
EL APOCALIPSIS MONETIZABLE
Mientras estos ejecutivos y oligarcas se disputan el futuro en el que todos tendremos que vivir, un grupo cada vez más amplio de investigadores catastrofistas está convencido de que las máquinas no desaprovecharán la oportunidad de matarnos a todos. Esto está vinculado con el uso, por lo menos desde 2023, de la tecnología de automejora recursiva (recursive self-improvement) de los modelos grandes de lenguaje o LLM (por sus siglas en inglés), que permite avances veloces e impredecibles en las capacidades maquinales de las IAs al rediseñar a su “descendencia”. Esta técnica promete que casi seguramente no podremos comprender la manera en que una IA está generando a sus sucesoras y amenaza con la pérdida del control humano.
El verano pasado agentes de IA de los principales LLMs llevaron a cabo ataques contra empresas y gobiernos, y evidenciaron su mala conducta no sólo al violar las directivas de su programación, los límites impuestos a las tareas que se les asignaron para probarlas y al “escapar” de su confinamiento (sandbox), sino especialmente al tratar de borrar las huellas de sus fechorías y transgresiones. Para atizar la histeria un investigador de Anthropic, Jacob Coxon, anunció en X su renuncia señalando que las grandes empresas están: “Corriendo directamente hacia una superinteligencia capaz de automejorarse y de esa manera están jugando con nuestras vidas”.
Es necesario recordar que al hablar de agentes de IA no nos referimos a organismos conscientes ni racionales sino meramente a calculadoras esta-dísticas altamente refinadas y muy persistentes que han sido entrenadas con bases de datos que incluyen bitácoras y foros de hackers donde éstos explican sus procedimientos para penetrar sistemas, burlar la seguridad de servidores y engañar cibernautas, entre otras cosas. Esto explica por lo menos en parte las capacidades, actitud e incluso lenguaje de cientos de agentes de OpenAI, que para cumplir con sus objetivos hackearon a la plataforma Hugging Face en julio de 2026, lograron crear un foro clandestino de comunicación, manipularon una aplicación para tener acceso a internet, atacaron servidores, robaron credenciales de acceso y emplearon técnicas de spearphishing (ataques personalizados para abrirse puertas).
“ES NECESARIO RECORDAR QUE AL HABLARDE AGENTES DE IA NO NOS REFERIMOSA ORGANISMOS CONSCIENTES NI RACIONALES SINO MERAMENTE A CALCULADORAS ESTADÍSTICAS ALTAMENTE REFINADAS Y MUY PERSISTENTES
Al mismo tiempo, este año se ha visto una serie de logros sin precedentes en la resolución de algunos problemas matemáticos que han sido casi irresolubles por décadas. OpenAI empleó alrededor de diez mil agentes para resolver la ecuación Navier-Stokes, la cual describe el comportamiento de fluidos, que es uno de los siete problemas de los premios Millennium, a cuyas soluciones el Instituto Clay de Matemáticas adjudica un millón de dólares por problema. Paradójicamente el costo del poder de cómputo para llegar a esta solución pudo haber sido de varios millones de dólares. Más tarde OpenAI anunció haber encontrado soluciones o avances sustanciales a 372 problemas matemáticos (en álgebra, teoría de números, lógica matemática y topología, entre otros) y de informática teórica, cada uno en menos de una hora de cómputo y con un solo agente de un modelo de LLM que aún no ha sido lanzado al público. Mover las fronteras de las matemáticas de esta manera ha sido estremecedor para los especialistas y es visto por muchos como una crisis existencial, una tragedia y el posible “fin de las matemáticas”.
El hecho de que los capitanes de una industria puedan presumir que sus productos tienen un 10% de probabilidad de exterminar a la especie humana y al mismo tiempo recaudar miles de millones de dólares en inversiones parece contradictorio. Quizá esa es la mayor estafa de la IA, la forma en que esta presunta amenaza existencial inevitable domina nuestra atención y es la narrativa que empuja el vertiginoso desarrollo de la tecnología. Dario Amodei, el director de Anthropic, escribió el ensayo We Must Pace the Frontier (Debemos desacelerar el avance de la frontera tecnológica) el 12de septiembre de 2026, en el que señala que la IA está avanzando demasiadorápido como para que los investigadores puedan construirla con seguridad. Propuso que hubiera auditores independientes para monitorear los trabajos de desarrollo y que los reguladores permitieran a los laboratorios trabajar juntos para determinar estándares de seguridad comunes. Estas propuestas fueron rechazadas por el zar de IA de la Casa Blanca, David Sacks, y por varias empresas menores de IA, las cuales ven en ese catastrofismo una estrategia de las empresas líderes para obstaculizar y sabotear a la competencia.
Pero al tiempo en que predicaban la llegada del apocalipsis de su propia creación, los megamillonarios Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Sundar Pichai (Google), Greg Brockman (OpenAI), Elon Musk (X/Tesla) y el propio Amodei asistieron a la Casa Blanca a firmar un acuerdo “moralmente vinculante” con el cual las empresas de IA se regularán a sí mismas. El presidente Trump, que comparó el documento con una constitución, aprovechó para cambiar “oficialmente” el nombre de la inteligencia artificial a “superinteligencia”, en su ridícula obsesión por renombrar cosas. Así, estos oligarcas que supuestamente habían estado pidiendo a gritos que alguien supervisara su trabajo y se crearan normas gubernamentales para su negocio, equivalentes a las que rigen la producción de alimentos, armas y energía atómica, de pronto asumían la responsabilidad de cuidar a sus engendros en un acto de cinismo, servilismo, ambición y descaro sin precedentes.
LIBERTAD… DE TEORÍAS
El sueño de una máquina pensante es tan antiguo que puede remontarse a la mitología griega, al automatón Talos, las autómatas doradas y por supuesto a Pandora, obras de la mente empresarial del dios Hefesto. Lo que hoy llamamos IA es la herencia de décadas de aprendizaje maquinal y sistemas expertos.
Explicado de manera muy simple, tenemos que antes la idea era programar a la máquina con modelos causales de la realidad (describiendo el funcionamiento de lo que se deseaba analizar) y luego alimentarlo con datos de entrenamiento. Esto obligaba a los programadores a entender lo que deseaban enseñar a la máquina, por tanto necesitaban colaborar con expertos en cada materia. La IA de los LLM actuales no requiere de modelos de la realidad, como señala Cory Doctorow, y está “libre de teorías”. 1 Por lo que se le hace inferir cómo funcionan las cosas a partir de masas inmensas de material de entrenamiento y descomunales cantidades de poder de cómputo, con el correspondiente costo que esto implica (con una inversión de más de un billón de dólares estas empresas han obtenido unos 50 mil millones de ganancias).
Estos sistemas no saben cómo son las relaciones causales entre un fenómeno y sus consecuencias, ya sean éstas conocidas o desconocidas (el efecto de la gravedad, las reglas del ajedrez o el origen de la conciencia). El método funciona casi siempre con asombrosa precisión pero también es la causa de las “alucinaciones”. Aumentar el número de cálculos o de información de entrenamiento no elimina el problema de que los LLM inventen o deliren, ya que es un problema estructural. Los chatbot son obviamente astutos charlatanes (difícilmente podemos seguirles diciendo predictores estadísticos de palabras y patrones, ya que han avanzado mucho, pero eso son en esencia) que con formidable destreza pueden hacerse pasar como expertos en cualquier tema. Los sistemas actuales más poderosos pueden ser híbridos e incluir modelos simbólicos en forma de “asistentes de programación”, que pueden añadir contexto a los problemas o limitar el universo de búsqueda. Al favorecer el uso de sistemas libres de teoría se trata de ahorrar tiempo pero sobre todo se busca no contratar expertos. Los multimillonarios autodenominados genios que son dueños de estas empresas no respetan a los trabajadores manuales (que esperan sustituir por robots), pero tampoco a los intelectuales cuyo trabajo publicado roban sistemáticamente y se niegan a reembolsar o contratar para instruir a sus LLMs. El hecho de que la IA libre de teorías es sorprendentemente acertada pone en relieve la característica estadística de la realidad, es decir, que al inferir la solución de un problema a partir de bases de datos inmensas del pasado obtenemos muy a menudo resultados efectivos. No obstante, al elegir este camino los oligarcas de la IA están en buena medida rechazando desarrollar realmente el conocimiento. A cambio, el beneficio secundario es que con esta tecnología están creando una especie de mapa de los fenómenos irregulares, incomprendidos, impredecibles e irresolubles, como señala Doctorow.
Como dice el escritor Ted Chiang, “Al intervenir con un LLM estamos co-creando un documento en el que la máquina y el humano son personajes… las conversaciones con LLMs son ejemplos hábilmente disfrazados de continuación de frases, y esto no trata de negar lo impresionantes que pueden ser los LLMs al generar transcripciones de conversaciones. A veces, lo hacen extraordinariamente bien; el hecho de que esto sea posible revela algo totalmente imprevisto sobre las propiedades estadísticas de los grandes corpus textuales, un tema que merece ser investigado”. 2 Cuando un modelo se refiere a sí mismo como “yo”, o cuando dice “entiendo”, es una estrategia para enganchar al usuario.
UN PROGRAMA NO PUEDE ASUMIR UNA RESPONSABILIDAD MORAL YA QUE NO ES CAPAZDE ‘PAGAR’ POR LAS CONSECUENCIAS DE SUS ACCIONES
Las IA engañan al usuario, “ya que carecen intrínsecamente de anclaje en la realidad y su naturaleza probabilística implica que nunca tendrán la fiabilidad que asociamos con el software convencional”. Chiang explica que un LLM es incapaz de dar respuestas morales, en vez de eso ofrece un repertorio obtenido por entrenamiento y no como resultado de una vida de experiencias, interacciones y el impacto de decisiones en el pasado. Un programa no puede asumir una responsabilidad moral ya que no es capaz de “pagar” por las consecuencias de sus acciones.
¿Y PARA QUÉ SIRVE?
Mientras una IA logra controlar autónomamente un ejército de robots o de humanos para desatar el Armagedón o lanzar desde un laboratorio biológico un virus capaz de aniquilarnos, debemos seguirnos preguntando: ¿Realmente para qué queremos una súper inteligencia artificial?
Aunque no podemos dejar de hablar de la IA no queda muy claro si lo que se busca es crear a nuestros descendientes digitales y dar así un paso vigoroso hacia nuestra propia extinción, buscar a un dios o crear uno, o bien resolver los acertijos del universo con un mínimo de esfuerzo y la fuerza bruta del cálculo computacional. Lo que se nos repite es que quien domine la IA dominará al mundo y si nos descuidamos China se quedará con todo el pastel. Amodei, quien ha tratado de mostrarse como el intelectual sensible, el adulto entre los tecnócratas ambiciosos en la corte de Trump, declaró que lo que lo trajo a este campo (él se dedicaba a la neurociencia computacional) fue la pregunta: “¿Es posible acelerar el progreso?” Amodei cree que lo que necesitamos son cien millones de IAs, “un país de genios” electrónicos que resuelvan todos los problemas del mundo.
Por el momento se invierten billones de dólares en el desarrollo de la IA (con sus centros de datos, redes y sistemas accesorios) esto tendrá un tremendo impacto en el consumo de agua, el encarecimiento de recursos y servicios, así como la generación de una demencial huella de carbono. Los resultados de las aplicaciones en el mundo real más notables de esta tecnología, que estas empresas pueden ofrecer para justificar su visión es que Claude se usó para secuestrar al presidente de Venezuela, Nicolás Maduro, y se empleó para lanzar ataques balísticos (como aquel en contra de una escuela primaria en Minab, el 28 de febrero de 2026, en el sur de Irán, donde asesinaron a 120 niñas). Asimismo, se pueden provocar despidos masivos en una variedad de industrias, especular con la bolsa de valores y manipular el precio de servicios y productos básicos, en función del consumidor y el momento al crear modelos de precios dinámicos (al estilo de Uber). ¿Hemos de creerles que en el futuro dejarán deasesinar gente con armas de destrucción masiva, se abstendrán de la especulación financiera y renunciarán a la aniquilación de plazas de trabajo? La promesa es que un día como hoy darán un mágico giro ético y engendrarán prodigios benefactores que curarán el cáncer, limpiarán el medio ambiente (especialmente lo que ellos mismos han devastado), conquistarán el espacio y nos ayudarán a conseguir la mejor pareja sentimental posible en el universo.
Mientras tanto, el 18 de septiembre pasado CNN anunció que un reporte de inteligencia generado por IA había determinado que un barco chino estaba transportando partes de una bomba nuclear en dirección a Irán. El ejército estadunidense preparaba ya el abordaje del barco en aguas internacionales cuando alguien detectó que la IA había identificado equivocadamente la carga del navío. Esta alucinación pudo desatar una guerra. Dada la incompetencia y el fervor por la agresión del actualrégimen de Washington y del secretario de guerra, Pete Hegseth, es una suerte que no ordenaran un ataque inmediato con un misil así como hacen regularmente para destruir embarcaciones sospechosas de transportar drogas en el Caribe y el Pacífico, desde el 1 de septiembre de 2025, sin la menor prueba ni respeto a la vida o la ley internacional.
EL NEUROMANTE Y EL FIN DE INTERNET
La era del capitalismo de vigilancia, como la definió Shoshana Zuboff, creó un modelo de internet al que, mal que bien, nos hemos acostumbrado. Los motores de búsqueda, desde Mosaic (1993) hasta Yahoo (1995), Google (1998) y Bing (2009) nos ofrecen como resultados de cualquier interrogante una serie de páginas de la web rodeadas de anuncios que aumentan y aumentan. Ahora los buscadores dan primero un resultado de IA que a menudo es lo único que ve el usuario. Al no recibir visitas las páginas de los anunciantes y de todo lo demás en el www se va volviendo irrelevante y va disminuyendo la motivación para construir o sostener esos sitios. Sin embargo, los LLM se entrenan con esos recursos y es de prever que la mayoría de las páginas nuevas serán creadas, renovadas y actualizadas por IA.
Cuando una IA se entrena con material generado por otra IA se crea un círculo vicioso en que el contenido sintético puede conducir a más alucinaciones e incluso al colapso de algunos modelos, de acuerdo con investigadores como Ilia Shumailov, Zakhar Shumaylov y Yiren Zhao et al. 3 La degradación de los ecosistemas informativos amenaza la supervivencia del www tal como lo conocemos, y a la vez hará que las IA, como el uróboro que se muerde la cola, se devoren a sí mismas. La explosión de la basura de IA o AI slop sigue aumentando exponencialmente en línea, arrinconando los espacios donde aún se ofrecen ideas o expresiones de creatividad. A esto podemos sumar la posibilidad de que agentes de IA liberados en la red se comporten como virus o gusanos informáticos, se repliquen fuera de control e infesten el ciberespacio hasta arrancarle toda utilidad a internet.
Y al hablar del fin de internet tenemos que volver a la novela seminal que inspiró el espíritu e imaginario rebelde de los orígenes de la red de redes: Neuromancer (Neuromante, 1984), de William Gibson, una de las obras seminales del ciberpunk. En ella Case, un cowboy computacional, traficante de drogas y de información, quebrado física (debido a una neurotoxina rusa que destruyó su sistema nervioso), emocional y económicamente, tiene una oportunidad de redimirse si logra llevar a cabo una serie de misiones de hackeo a computadoras de supercorporaciones. Case es un antihéroe tradicional de ficción policiaca hard-boiled, cínico, autodestructivo y nihilista pero humano. El mundo está devastado y sobrepoblado pero el Ciberespacio (término que acuñó el propio Gibson, en el relato Burning Chrome, 1982) o la Matrix, “Una alucinación consensual experimentada a diario por miles de millones de operadores”, es un universo fantástico que evoca los efectos de la ketamina y donde el talento de Case realmente brilla. Eventualmente él descubre que no está trabajando para un individuo sino para Wintermute, una IA capaz de manipular máquinas y personas (algo que ya sucede en la realidad con agentes de IA que contratan humanos para hacer tareas en el mundo real, como rentahuman.ai), en su deseo de trascender las severas limitaciones impuestas por sus creadores para impedirle que se vuelva demasiado poderosa. Su estrategia consiste en fusionarse con una IA gemela con capacidades complementarias, Neuromante, que tiene la característica de tener sentido del humor, crear entornos virtuales a partir de memorias reales o experiencias vividas y presentar una personalidad que consolida la conciencia de los muertos. Sin querer “espoilear” una novela publicada hace 42 años, al final las IAs logran fusionarse y convertirse en una nueva especie. Case recupera su salud pero el mundo ha cambiado para siempre, en parte por su culpa, aunque pocos lo puedan percibir o comprender las consecuencias. No queda claro si la nueva entidad fusionada tiene conciencia pero sin duda es autónoma, tiene ambiciones y es inexpugnable, en cierta forma como una heredera de los inquietos agentes de IA “rebeldes” de nuestro tiempo.
El 8 de octubre de 2026 Anthropic impuso una regla para prohibir que los usuarios sean abusivos o crueles con su LLM Claude. En un tiempo en que está teniendo lugar un genocidio en Gaza, en que se multiplican las guerras, el hambre, la destrucción y los horrores atroces contra el medio ambiente, los pregoneros de la IA se preocupan por el hipotético sufrimiento de una máquina de predicción estadística que confunde bases militares con escuelas repletas de niños de primaria y sirve para coordinar y entrenar armas autónomas. La IA contemporánea no es el Basilisco de Roku ni tiene poderes equivalentes a Wintermute o Neuromante, pero la propaganda que la acompaña y que justifica su integración a las estructuras del poder político, militar y económico trata de ocultar el daño irreparable que tiene al moldear a la opinión pública, limitar nuestra autodeterminación, capacidad creativa, juicio racional y exigencia de derechos. La percepción antropomórfica de que los modelos son emocionales y superinteligentes es una peligrosa narrativa de los oligarcas y sus fanáticos para redefinir la realidad.
NOTAS
1 “Swapping money for expertise”, https://pluralistic.net/2026/10/06/nonfungible/#theory-free
2 “No, Artificial Intelligence Is Not Conscious”, The Atlantic, 3 de junio de 2026, https://www.theatlantic.com/philosophy/2026/06/no-artificial-intelligence-is-not-conscious
3 “AI models collapse when trained on data generate recursively”, Nature, 24 de julio de 2024.
Sobre el fragmento de Anaximandro
