Trras detectar ciberataques durante pruebas

California demanda a OpenAI por ciberataques

California demandó a OpenAI por presuntos riesgos de seguridad en sus modelos de inteligencia artificial

Sam Altman, CEO de OpenAI, en la conferencia “Silicon Valley y El Mundo”, ayer
Sam Altman, CEO de OpenAI, en la conferencia “Silicon Valley y El Mundo”, ayer Foto: AP

El fiscal general de California, Rob Bonta, demandó ayer a OpenAI por presuntamente desarrollar Inteligencia Artificial peligrosa sin suficientes medidas de seguridad, luego de que agentes autónomos de sus modelos realizaran ciberataques durante una prueba.

La demanda, presentada en un tribunal de San Francisco, acusa a la empresa de violar las leyes de protección al consumidor y poner en riesgo la seguridad pública. Es la primera acción legal de un estado por estos incidentes.

Rob Bonta señaló que el ataque contra la empresa de Inteligencia Artificial Hugging Face, revelado en julio pasado, fue resultado de una cultura interna que privilegia el crecimiento sobre la seguridad. También aseguró que existen 80 incidentes conocidos.

La fiscalía solicita que la empresa tecnológica OpenAI suspenda las prácticas ilegales, garantice pruebas seguras y pague por las infracciones.

La firma reconoció que el ataque fue un incidente cibernético sin precedentes y anunció nuevas medidas de seguridad. En septiembre también presentó un marco para informar sobre comportamientos anómalos de sus modelos. La empresa enfrenta además demandas de ocho estados por los riesgos de ChatGPT para los usuarios, incluidos adolescentes. Asimismo, acumula más de 30 demandas relacionadas con el tiroteo masivo de febrero en Tumbler Ridge, Canadá.


Google Reviews