Jacob Coxon, investigador especializado en inteligencia artificial que trabajó en OpenAI y recientemente renunció a Anthropic, lanzó una advertencia sobre la competencia entre las principales empresas tecnológicas por desarrollar modelos de IA cada vez más avanzados.
A través de una serie de mensajes públicos, Coxon aseguró que las compañías del sector avanzan hacia una posible superinteligencia capaz de mejorarse a sí misma, sin que existan suficientes mecanismos para comprender y controlar los riesgos que implicaría.
El especialista, quien durante los últimos tres años participó en investigaciones de preentrenamiento de modelos en ambas empresas, sostuvo que la velocidad con la que se desarrolla esta tecnología podría superar la capacidad de los propios laboratorios para garantizar que sus sistemas actúen de forma segura.
“Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, señaló al anunciar su salida de Anthropic.
Coxon explicó que su preocupación no se limita a las herramientas de inteligencia artificial que ya son utilizadas por millones de personas, sino a los sistemas futuros que podrían superar las capacidades humanas en distintas áreas, realizar tareas complejas de manera autónoma e incluso tener acceso a recursos o infraestructuras relevantes.
El investigador afirmó que algunos desarrolladores y altos mandos de la industria comparten, en privado, inquietudes sobre los posibles efectos de una IA altamente avanzada, aunque matizan sus posturas cuando hablan públicamente sobre el tema.
Su advertencia fue respaldada por Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, quien reconoció que la empresa todavía no cuenta con un plan definitivo para resolver el llamado problema de alineamiento: lograr que una inteligencia artificial muy avanzada mantenga objetivos compatibles con los intereses y la seguridad de las personas.
Hubinger precisó que los modelos actuales presentan un riesgo bajo, pero consideró preocupante el eventual desarrollo de sistemas capaces de perfeccionarse de manera acelerada y autónoma. En su opinión, este escenario podría llegar antes de lo previsto.
Anthropic ha sostenido que trabaja en medidas de seguridad, pruebas para detectar capacidades peligrosas y políticas para reducir riesgos catastróficos. Sin embargo, Coxon cuestionó que esos esfuerzos sean suficientes mientras las empresas mantengan una carrera por llegar primero a modelos de mayor capacidad.
El exinvestigador llamó a la industria y a los gobiernos a impulsar acuerdos verificables que permitan frenar o regular temporalmente el desarrollo de sistemas que representen un riesgo mayor, antes de que su avance rebase la capacidad humana de supervisión.
También te puede interesar:
- ONU advierte sobre “riesgo existencial” para la humanidad con IA
- Lanzan iniciativa para adopción de IA en Pymes
Únete a nuestro canal de WhatsApp. En La Razón enviamos a tu celular lo más importante de México y el Mundo, recuerda que una persona informada siempre tiene La Razón.
MSL
