Cinco empresas tecnológicas, entre ellas OpenAI, Google y Meta, fueron demandadas ayer por una coalición de organizaciones civiles que busca detener el desarrollo de sus modelos de Inteligencia Artificial (IA), debido a los riesgos que, aseguran, representan para la humanidad.
La denuncia fue presentada ante el Tribunal Superior de San Francisco por la Alianza para la IA Segura, junto con los grupos Irreplaceable Education Fund, Public Citizen y Heat Initiative. También incluye a Anthropic y SpaceX Super Intelligence.
El director ejecutivo de The Alliance for Secure AI, Brendan Steinhauser, afirmó que los propios directivos de estas compañías advirtieron durante años sobre los posibles peligros de sus sistemas más avanzados. Sin embargo, señaló que crean y comercializan tecnologías cada vez más potentes, pese a reconocer que no pueden controlarlas de manera confiable.
Las organizaciones sostienen que los riesgos podrían aumentar porque las empresas recurren cada vez más a sus propios modelos de IA para desarrollar nuevas plataformas sin intervención humana. Este proceso, conocido como “automejora recursiva”, permitiría que la tecnología participe en su propio desarrollo.
La demanda señala que los sistemas no siempre actúan de acuerdo con las intenciones de sus creadores y que no existe un método confiable para impedir que provoquen daños. El litigio ocurre en medio de una creciente preocupación por incidentes públicos en los que agentes de Inteligencia Artificial actuaron sin autorización y fuera de control.
Los demandantes recuperaron declaraciones de directivos del sector. En 2015, Sam Altman, director ejecutivo de OpenAI, afirmó que la Inteligencia Artificial “probablemente conducirá al fin del mundo”. En 2025, Dario Amodei, de Anthropic, estimó 25 por ciento la posibilidad de que su desarrollo tuviera consecuencias desastrosas.
En octubre, Sam Altman, Darío Amodei y Elon Musk, expresaron su respaldo a una desaceleración general del desarrollo de la IA.