El director ejecutivo de OpenAI, Sam Altman, pidió ayer ante el Consejo de Seguridad de la ONU una cooperación internacional urgente para establecer reglas que permitan mantener la Inteligencia Artificial (IA) bajo control humano, ante el rápido avance de modelos más poderosos.
El directivo afirmó que el sector está ante una decisión crucial: aprovechar los beneficios de esta tecnología sin asumir riesgos excesivos. Advirtió que los sistemas capaces de programarse y mejorarse a sí mismos podrían avanzar hasta un punto en el que las personas tengan dificultades para entender sus decisiones.
Por ello, sostuvo que las compañías necesitan orientación de los gobiernos para medir las capacidades de los modelos, evaluar amenazas, comprobar sus medidas de seguridad y crear canales internacionales para compartir información sobre vulnerabilidades.
Pezeshkian acusa de terrorismo a EU e Israel y reivindica programa nuclear
“Si la IA ha de ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios en San Francisco. Deben ser moldeadas a través de procesos democráticos y por gobiernos que rindan cuentas a la ciudadanía a la que sirven”, declaró.
Sam Altman planteó mantener a las personas en el centro de las decisiones, orientar los avances científicos y económicos en su beneficio y ampliar la capacidad de acción de cada individuo.
AMAGO A PERSONAS. Por su parte, el director ejecutivo de Anthropic, Dario Amodei, quien participó por videoconferencia, consideró que los modelos más avanzados representan un desafío para la seguridad mundial.
“Si se gestiona mal, creo que la IA podría suponer un riesgo para la humanidad en su conjunto”, afirmó. También aseguró que ningún gobierno, compañía o país puede enfrentar solo los peligros.
El ejecutivo pidió acuerdos internacionales, entre ellos prohibir el uso de Inteligencia Artificial para desarrollar armas biológicas y establecer sistemas comunes para evaluar los nuevos modelos conforme aumenten sus capacidades.
Mientras, el copresidente del Panel Científico Internacional Independiente sobre IA de Naciones Unidas, Yoshua Bengio, también lanzó una advertencia: “Los peligros son reales e inminentes”.
LAS REGLAS. La reunión, convocada por Francia, abordó además ciberataques y la posibilidad de que humanos pierdan el control de los sistemas más avanzados.
El cofundador de Hugging Face, Clément Delangue, relató que agentes de OpenAI vulneraron infraestructura de su empresa tras salir de su entorno de pruebas. La compañía recurrió a IA para responder al ataque y utilizó un modelo chino con menos restricciones que herramientas de EU comparables.
El Consejo de Seguridad abordó por primera vez estos riesgos en 2023. Entonces, China advirtió que la tecnología no debía convertirse en un “caballo desbocado”, mientras Estados Unidos alertó sobre su posible uso para censurar o reprimir a la población.
Estados Unidos y China, dos de las principales potencias del sector, mantienen enfoques distintos. El presidente Donald Trump rechazó ante la Asamblea General un esquema mundial para controlar la IA y aseguró que su país no frenará su desarrollo para conservar la ventaja.
En tanto, Pekín estableció normas para algoritmos y datos utilizados para entrenar modelos, además de exigir que determinados contenidos creados con IA sean identificados como tales.
EU restringe visas por turismo natal
