La IA puede tener sesgos y reproducir estereotipos: Especialistas

Los años han pasado desde la creación de la Inteligencia Artificial (IA), pero la forma en que hoy se relaciona con nosotros es distinta y con implicaciones importantes en diversos campos, consideraron Ximena Gutiérrez Vásquez, especialista del Centro de Investigaciones Interdisciplinarias en Ciencias y Humanidades (CEIICH); y Sebastián Tonda, cofundador y CEO de Flock, una de las agencias de marketing digital líderes en México.

Durante el conversatorio “Tecno fobia vs Tecno filia. Límites de la inteligencia artificial”, organizado por el CEIICH, en ocasión de “El Aleph. Festival de Arte y Ciencia 2024”, plantearon que esa tecnología ha dejado de ser un tema exclusivo para quienes tienen formación técnica y saben hablar su lenguaje y, por tanto, utilizarla.

Hoy en día “es una herramienta que nos incumbe a todos porque podemos dialogar con ella”, coincidieron los especialistas; además, la IA pasó de ser un actor detrás de herramientas tecnológicas que utilizamos, a algo de lo que quizá no éramos conscientes y explicaron que en la actualidad puede sostener un diálogo frontal con el ser humano y ese es el gran cambio que hoy vivimos.

En el encuentro, el director del CEIICH, Mauricio Sánchez Menchero, explicó que el nuevo programa Macrodatos, Inteligencia Artificial e Internet fue diseñado para explorar y aprovechar el vasto potencial de los datos en la era digital. Desde el análisis predictivo hasta la detección de tendencias, busca ofrecer, a partir de la UNAM, una visión crítica, y práctica de cómo estas herramientas transforman a las sociedades en el mundo.

Ximena Gutiérrez, experta en lingüística computacional e inteligencia artificial con un enfoque interdisciplinario e integrante del Programa Macrodatos, Inteligencia Artificial e Internet del CEIICH, recordó: el término IA surgió en la década de 1960 y a partir de ahí ha evolucionado. Sin embargo, ahora lo usa la sociedad en general. Dejó de ser un concepto que utilizamos exclusivamente los estudiosos de las ciencias de la computación y de las ingenierías; “hoy vemos muchos artefactos que son inteligentes”.

La universitaria comentó que de acuerdo con el libro de Sebastián Tonda, “Irremplazables: Cómo sobrevivir a la Inteligencia Artificial”, el autor señala que ni siquiera habrá necesidad de que aprendamos lenguas, porque todo esto se va a automatizar.

Sin embargo, el traductor con IA funciona bien para un grupo de los siete mil idiomas que existen en el mundo, pero es curioso que la generativa, como ChatGPT, “falla magistralmente cuando se enfrenta a una lengua que no tiene una presencia digital exacerbada para entrenarlo, como ocurre con el náhuatl. Por ejemplo, funciona bien para el español, inglés y francés”.

Mencionó que más allá de que podría reemplazarnos en el corto plazo, el riesgo es que esta tecnología tienda a uniformar o eliminar la diversidad. “Los sociólogos no tardaron mucho en descubrir que ChatGPT tenía sesgos sociodemográficos de género, puede reproducir discursos de odio, exacerbar estereotipos, además de estar en riesgo la privacidad y soberanía de los datos masivos que alimentan los sistemas”.

KT