Hoy le preguntamos a la inteligencia artificial (IA) prácticamente todo: a qué restaurante ir, qué dice un contrato, cómo leer nuestros estudios médicos. Hay gente que hasta le pregunta qué hacer cuando está pasando por una crisis. Pero ¿cómo sabemos si esa información que le damos no la utiliza para mejorar sus modelos? Hoy, es indispensable tener mecanismos de seguridad. Esta semana platicamos con León Jasqui Guindi, director general de AutomAIte, especialista en IA, quien nos explica cómo trabajar de manera segura con la inteligencia artificial.
Bibiana Belsasso (BB): ¿Qué pasa cuando le damos todos nuestros datos, hasta los estudios médicos, a ChatGPT, a Claude, a todas estas inteligencias artificiales? ¿Corremos el riesgo de que nos roben la información?
León Jasqui Guindi (LJG): La respuesta corta es sí. Si tenemos una cuenta gratuita y no la configuramos, sí pueden utilizar nuestros datos para entrenar el siguiente modelo. Por eso la inteligencia artificial ha mejorado tanto: toma los datos que le damos y con eso aprende cómo contestamos los humanos.
BB: ¿Es preferible utilizar una cuenta pagada?
LJG: Sí. Es preferible una cuenta pagada y, específicamente, apagar un ajuste para que no utilicen tus datos para entrenar el siguiente modelo.
BB: ¿Dónde está ese ajuste?
LJG: En sus cuentas de ChatGPT o de Claude, y probablemente en todas las inteligencias artificiales que hay en el mercado, hay un botón de ajustes. En ChatGPT, por ejemplo, hay una sección que dice “Controles de datos” y ahí un botón muy específico que dice “Mejorar el modelo para todos”. Ése es el que hay que apagar. Con eso estás confiando que no usen tus datos para el siguiente modelo.
BB: ¿Importa de qué país es el modelo que usamos?
LJG: Hay una polémica muy interesante. Los grandes, Claude y ChatGPT, son de Estados Unidos, pero hay otros muy baratos, que son los modelos chinos, como DeepSeek o Qwen.
Mucha gente me pregunta cuál debe usar y yo les digo: ¿tú en qué país confías?, ¿quién quieres que tenga esos datos?
BB: ¿Cómo sabemos que estamos entrando a la página verdadera?
LJG: Cuando buscas ChatGPT en Google, no necesariamente el primer resultado es el real. Lo hemos visto con mucha gente: buscan Claude, ChatGPT, y les salen imitaciones, porque hay quien paga por estar en los primeros lugares. Hay que escribir el link puntual, claude.ai o chatgpt.com, y verificar el logo y la dirección.
BB: ¿La información que le damos se puede filtrar o utilizar en nuestra contra?
LJG: Sí, podría llegar a filtrarse, pero para eso tendrían que hackear a las empresas, que yo diría que hoy son de las más importantes del mundo y tienen sus servidores en compañías como Microsoft o Amazon. Si alguien logra penetrarlas, tus datos sí quedan vulnerables.
Ahora, darle más datos tiene un beneficio: se vuelve más personalizada y te contesta de forma más acertada. Hay que tener un balance. Yo no le voy a subir la clave de mi cuenta de banco, pero sí le podría subir mis estudios médicos.
BB: También es importante cuidar las claves, para que nadie entre a tu cuenta y vea lo que has escrito.
LJG: Si le das tu cuenta a alguien más, esa persona puede preguntarle a tu chat de qué ha hablado Bibiana en los últimos 30 días. Es como si abres tu computadora y la dejas a la mitad de la calle: cualquiera va a poder entrar y preguntar.
BB: ¿Cuáles son las medidas de seguridad que debemos tener?
LJG: Es muy recomendable el doble factor de autenticación. Y que sus contraseñas no estén guardadas en un Excel, en las notas o en un Word, sino en una aplicación de forma segura. Hay aplicaciones que dan códigos que cambian constantemente, y eso hace que quien quiera entrar necesite tener tu dispositivo o un nivel muy alto de sofisticación.
BB: ¿Qué pasa con herramientas como Cowork, a las que les das acceso a toda tu computadora?
LJG: Claude Cowork es un agente de inteligencia artificial al que le das acceso a tu computadora para que pueda manipular archivos, crear carpetas, organizar tus fotos y tus documentos. Para acomodar esa información, se mete a leerla. Si le das acceso y no apagas la parte de los datos, podría entrar a un Excel donde tienes tus contraseñas, o cualquier otra cosa, y eso sería una vulnerabilidad de seguridad.
BB: ¿Y en las empresas? El empleado de un banco puede subir información para hacer una presentación.
LJG: Es un tema muy sensible. La recomendación es que tengan cuentas pagadas para su gente y que manejen cuentas empresariales, Team o Enterprise según la cantidad de personas, que ya traen ese ajuste apagado por defecto. Es como tener un contrato con esas empresas de que tu información está segura. Si no le das a la persona las herramientas de inteligencia artificial, las va a usar por su cuenta. Yo podría apostar que lo va a hacer por fuera, en una cuenta gratis, y ahí es donde los datos pueden ser vulnerables.
BB: ¿Algo más?
LJG: Esto cambia tan rápido que recomiendo que todos estemos a la vanguardia. Así como tiene riesgos de seguridad, tiene muchas ventajas. Lo que pasa hoy es que los agentes de inteligencia artificial maliciosos pelean contra los buenos. Ya no es una pelea de hackers humanos contra hackers humanos, es de bots contra bots. Si llevamos a cabo estas medidas de seguridad, lo más probable es que nuestra información sí esté segura.
Paso a paso: cómo proteger su información cuando usa inteligencia artificial
Entre por la dirección correcta. Escriba usted mismo chatgpt.com o claude.ai. No dé clic en el primer resultado de Google: puede ser una imitación.
Apague el uso de sus datos para entrenamiento. En ChatGPT: Ajustes, luego “Controles de datos”, y apague “Mejorar el modelo para todos”. En cualquier otra, busque la opción equivalente en los ajustes de privacidad.
Active el doble factor de autenticación. Así, quien quiera entrar a su cuenta necesita también su teléfono.
Guarde sus contraseñas en una aplicación segura. Nunca en un Excel, en las notas ni en un Word.
No comparta su cuenta. Quien entre puede preguntarle a la inteligencia artificial todo lo que usted le ha contado.
Decida qué sube y qué no. Las claves del banco, nunca.
Si usa un agente con acceso a su computadora, revise antes qué archivos hay en las carpetas que le abre.
Si tiene una empresa, dé a su gente cuentas empresariales. Si no lo hace, usarán una cuenta gratuita por fuera.
