La más reciente advertencia de Dario Amodei CEO de Anthropic, empresa estadounidense de investigación y desarrollo de inteligencia artificial, se suma a una larga lista de ejecutivos y trabajadores de importantes compañías tecnológicas que parece han perdido el control del desarrollo de la IA.
La clave de la declaración de Amodei se centra en el incidente del verano cuando la empresa OpenAI logró hackear a la plataforma Hugging Face sin que nadie lo supiera y sobre todo sin supervisión humana.
“Dada la acelerada evolución de las capacidades de la IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a controlar todo el Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud de dichos daños siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”.
Amodei no es el único preocupado por el avance descontrolado de la IA; Geoffrey Hinton, uno de los científicos más reconocidos en este campo y premio Nobel de Física, abandonó Google en 2023 después de advertir sobre las consecuencias que podría tener un progreso demasiado rápido de esta tecnología. Su preocupación se basa en que las capacidades de estos sistemas están aumentando a un ritmo que puede superar nuestra capacidad para comprenderlos y controlarlos.
Una de las declaraciones más alarmantes fue la del ingeniero de 27 años, Jacob Coxon, quien trabajó tanto en Open AI y en Anthropic. Coxon aseguró que ninguna de las dos empresas actúa responsablemente, ambas participan en una carrera para crear una superinteligencia capaz de mejorarse a sí misma. Y advierte que la IA podría matarnos a todos antes de que acabe la década.
Estos expertos creen que una de la amenazas más latentes es la inteligencia que esta tecnología pueda desarrollar hasta superar la de los humanos. Poniendo en riesgo la garantía de que una inteligencia artificial avanzada actúe siempre de acuerdo con los intereses humanos.
Si en el futuro se desarrollan sistemas más inteligentes que las personas, resultaría complicado predecir sus decisiones o impedir determinados comportamientos. Inclusive, algunos de los expertos creen que el simple hecho de intentar apagar estos sistemas podría volverse imposible con una inteligencia artificial suficientemente avanzada.
También existen riesgos más concretos. Entre ellos se encuentran la utilización de la inteligencia artificial para desarrollar armas biológicas, realizar ataques contra infraestructuras importantes, llevar a cabo vigilancia masiva o crear armas autónomas.
Además de los riesgos tecnológicos y militares, existe una dimensión social. El desarrollo y uso de los asistentes de inteligencia artificial capaces de interactuar y mantener conversaciones de manera cada vez más neutral puede hacer que algunas personas desarrollen una dependencia emocional hacia ellos.
Ante este panorama, resulta urgente que los gobiernos intervengan para que se regule en materia del desarrollo y uso de la inteligencia artificial. No se puede confiar en las empresas que están detrás de estas tecnologías y que hasta el momento parecen inofensivas y, al contrario, reclaman normas, controles externos y legislaciones que establezcan limites claros
Corrupción. Dardo envenenado
