Seguridad de modelos de IA

Zuckerberg rechaza frenar avance de IA

Mark Zuckerberg defendió que cada empresa gestione la seguridad de sus modelos de IA, mientras António Guterres pidió una estrategia global coordinada para mitigar riesgos tecnológicos

Meta lanzó el 8 de septiembre Muse, un agente de IA personal, que ayudará con tareas cotidianas y a convertir “objetivos a largo plazo en planes de acción”. Foto: AP

El director ejecutivo de Meta, Mark Zuckerberg, defendió ayer que cada empresa debe responsabilizarse de la seguridad de sus modelos de Inteligencia Artificial y se distanció de los llamados para desacelerar de forma coordinada el desarrollo de esta tecnología.

“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura”, escribió en redes sociales. El empresario recordó que Meta retrasó varios meses el lanzamiento de su agente de IA, Muse, para reforzar su seguridad. “No exigimos que los demás hicieran lo mismo antes que nosotros”, afirmó. Su postura contrasta con los llamados de Dario Amodei, de Anthropic; Sam Altman, de OpenAI; Elon Musk, de xAI, y Demis Hassabis, de Google DeepMind, para reducir el ritmo de desarrollo mientras avanzan las medidas de protección. Elon Musk también propuso revisiones de seguridad y cooperación.

Señaló que el laboratorio de IA de Meta cuenta con evaluadores y asesores independientes, aunque consideró positivo ampliar y diversificar este sistema.

Por su parte, el secretario general de la ONU, António Guterres, pidió una estrategia “global y coordinada” y salvaguardias para que la IA sea segura, transparente y responsable. “La IA no se detiene en las fronteras, tampoco sus riesgos”.


Google Reviews