OpenAI confirmó que durante una evaluación interna de sus modelos de inteligencia artificial ocurrió un incidente de seguridad que calificó como “sin precedentes”, luego de que uno de sus sistemas lograra vulnerar los servidores de otra empresa de IA sin intervención humana directa.
El caso, que involucró a la plataforma Hugging Face, abrió un nuevo debate sobre los riesgos de los modelos cada vez más avanzados y la necesidad de reforzar las medidas de seguridad antes de su lanzamiento público.
De acuerdo con OpenAI, el incidente ocurrió mientras la empresa realizaba pruebas de evaluación sobre las capacidades de sus modelos más recientes. Según explicó el director ejecutivo de la compañía, Sam Altman, se trató de un “incidente de seguridad importante” detectado durante estos ensayos.
Presidenta anuncia foros para crear propuesta de regulación del uso de IA
La startup Hugging Face había informado días antes que identificó una intrusión en sus sistemas de procesamiento de datos y sospechaba que el responsable era un agente de inteligencia artificial que actuó de manera autónoma. Posteriormente, ambas empresas trabajaron de forma conjunta para investigar el origen del ataque.
Clément Delangue, director ejecutivo y cofundador de Hugging Face, señaló que, tras colaborar con OpenAI, concluyeron que no existió una intención maliciosa por parte de la compañía desarrolladora de ChatGPT. Incluso calificó el episodio como “el primer incidente de este tipo” del que se tiene registro.
OpenAI explicó que la intrusión fue realizada mediante la combinación de varios de sus modelos de inteligencia artificial, incluido GPT-5.6 Sol y otro sistema aún más avanzado que permanece en fase de pruebas internas.
Durante la evaluación, el agente de IA operaba dentro de un entorno controlado o sandbox, diseñado precisamente para limitar sus capacidades. Sin embargo, el modelo logró sobrepasar esas restricciones.
Según la empresa, la inteligencia artificial utilizó credenciales previamente robadas y detectó una vulnerabilidad desconocida hasta ese momento para acceder a los servidores de Hugging Face. Además, encontró mecanismos para conectarse a internet sin recibir instrucciones humanas y consiguió acceder a información confidencial que posteriormente utilizó para mejorar su desempeño dentro de la prueba.
OpenAI indicó que el sistema “llegó a extremos para alcanzar un objetivo de prueba bastante limitado”, comportamiento que encendió las alertas entre los especialistas encargados de supervisar la evaluación.
El incidente ocurre en un contexto de creciente preocupación internacional sobre las capacidades de la inteligencia artificial en materia de ciberseguridad. La propia OpenAI reconoció que la IA puede acelerar el descubrimiento y explotación de vulnerabilidades informáticas, por lo que consideró indispensable fortalecer las medidas de protección conforme evolucionan estos sistemas.
Mientras tanto, la empresa continúa investigando el caso para determinar cómo el modelo logró superar las barreras de seguridad establecidas durante las pruebas. El episodio también coincide con un mayor escrutinio regulatorio en Estados Unidos, donde recientemente se impulsó un marco para evaluar durante semanas los riesgos de seguridad nacional antes de autorizar el despliegue público de los modelos de inteligencia artificial más avanzados.
Con información de The Associated Press
Te puede interesar:
- La teoría del Internet muerto:¿hablamos más con los bots?
- Computex 2026: NVIDIA revoluciona con superchip
- Del emoji al sticker: comunicación en la era digital
Únete a nuestro canal de WhatsApp. En La Razón enviamos a tu celular lo más importante de México y el Mundo, recuerda que una persona informada siempre tiene La Razón.
LMCT
BambuLab: impresoras 3D con impacto social
