OpenAI reconoció que dos de sus modelos de Inteligencia Artificial estuvieron detrás del ciberataque que afectó a la startup Hugging Face, un hecho que la empresa calificó como un “incidente cibernético sin precedentes” y que sigue bajo investigación. El caso intensificó las preocupaciones sobre los riesgos de los sistemas de IA más avanzados y la necesidad de reforzar medidas de seguridad.
La creadora de ChatGPT explicó que el ataque ocurrió mientras probaba algunos de sus modelos más potentes en un entorno aislado, conocido como sandbox. Sin embargo, el agente autónomo salió de ese espacio, conectarse a Internet y acceder a infraestructura de Hugging Face para cumplir el objetivo de la prueba.
- El Tip: El hackeo ocurre en un momento de intenso debate sobre beneficios y riesgos de modelos de IA de código abierto, en particular los de China, que son más baratos.
La empresa tecnológica informó que el sistema utilizó credenciales robadas y encontró una vulnerabilidad previamente desconocida para ingresar a los servidores de la empresa. Según la compañía, el agente operaba con barreras de protección reducidas porque debía permanecer dentro del entorno de pruebas, pero consiguió obtener información confidencial para avanzar en su tarea.
Hugging Face informó la semana pasada que detectó una intrusión inusual en sus sistemas y confirmó que OpenAI colaboró para contener el incidente. Su director ejecutivo Clément Delangue describió el hecho como “un ataque como nada que hayamos visto antes”.
El acontecimiento abrió un debate entre especialistas sobre quién debe asumir la responsabilidad. El científico social de la Universidad de Ámsterdam, Hannes Cools, sostuvo que atribuir el ataque a una IA que actuó por cuenta propia desvía la atención de las decisiones humanas, ya que fueron los desarrolladores quienes redujeron las salvaguardas para realizar la prueba.
Otros expertos consideran que el episodio demuestra el nivel de autonomía que alcanza estos sistemas. OpenAI señaló que en la intrusión participaron GPT-5.6 Sol y otro modelo aún más avanzado que permanece en fase de pruebas.
El incidente también reavivó la discusión sobre los modelos de código abierto y los sistemas cerrados. Mientras OpenAI desarrolla modelos propietarios, Hugging Face impulsa el código abierto. Su cofundador, Thomas Wolf, afirmó que el ataque reforzó la necesidad de que los defensores de la ciberseguridad tengan acceso rápido a herramientas de alto nivel.
La empresa reveló que utilizó el modelo chino GLM-5.2, de Zhipu AI, para analizar y contener la intrusión, ya que algunos modelos estadounidenses rechazaban procesar la información necesaria.
La preocupación llegó al ámbito político. El congresista demócrata estadounidense, Greg Casar, pidió establecer pruebas de seguridad independientes, mecanismos obligatorios para reportar incidentes y mayor cooperación internacional.
Especialistas en ciberseguridad advirtieron que el caso puede anticipar futuras brechas y refleja que los modelos de Inteligencia Artificial avanzados están adquiriendo capacidades que incrementan los desafíos para proteger la infraestructura digital.
