La IA de Xóchitl Gálvez: un artificio que podría abrir paso a "mentiras profundas" en México

Al implementar una vocería oficial diseñada mediante inteligencia artificial, la candidata del bloque opositor, Xóchitl Gálvez, le abrió la puerta a la proliferación de 'deepfakes', le dijo a Sputnik el filósofo y humanista digital mexicano Ernesto Priani Saisó.

El 17 de diciembre, Xóchitl Gálvez, precandidata mexicana a la presidencia por la coalición "Fuerza y Corazón por México" —que reúne a los partidos Revolucionario Institucional (PRI), Acción Nacional (PAN) y de la Revolución Democrática (PRD)—, dio a conocer a iXóchitl, su nueva vocera oficial creada con inteligencia artificial generativa y que estará a cargo de comunicar los mensajes de la exsenadora en sus redes sociales oficiales.

"Les presento a mi nueva vocería de inteligencia artificial. Una herramienta pionera e innovadora que únicamente será oficial a través de mis redes sociales: iXóchitl", compartió la candidata de la derecha en la red social X (antes llamada Twitter).

Les presento a mi nueva vocería de inteligencia artificial.

Una herramienta pionera e innovadora que únicamente será oficial a través de mis redes sociales: iXóchitl.#FuerteComoTú #XvocerIA pic.twitter.com/1NSle00j2r

— Xóchitl Gálvez Ruiz (@XochitlGalvez) December 17, 2023

En palabras de la propia iXóchitl, sus mensajes serán supervisados y tendrán el aval de la ingeniera y empresaria hidalguense que desea sacar de Palacio Nacional al partido oficialista, Morena —fundado en 2011 por el presidente Andrés Manuel López Obrador— en los comicios presidenciales que se realizarán en junio de 2024.

Asimismo, aseguró que esta tecnología ayudará a economizar los tiempos y los recursos, además de que es "muy rápido tener el material y es muy barato, lo cual es perfecto cuando andas del tingo al tango y con poca lana".

Sin embargo, en cuanto iXóchitl fue presentada en redes sociales, diversos usuarios cuestionaron la decisión de Gálvez, mientras que otros más aseguraron que la nueva vocera tiene el objetivo de introducir, por fin, algo de inteligencia en la campaña. Y hasta hubo quienes se preguntaron si la IA sería como Xóchitl, es decir, espontánea y malhablada.

Xóchitl está corriendo muchos riesgos

En este contexto, Sputnik conversó con el filósofo, profesor, humanista digital y divulgador mexicano Ernesto Priani Saisó, que consideró que la aspirante a ocupar la silla presidencial de la segunda economía latinoamericana está corriendo muchos riesgos al implementar esta herramienta.

Si bien para el académico de la Universidad Nacional Autónoma de México (UNAM) es natural que la precandidata de derecha —en tanto que su formación profesional es como ingeniera experta en temas de innovación— se haya decantado por introducir en su campaña una vocería creada con "la tecnología de moda", al mismo tiempo observó que la inteligencia artificial es, en la actualidad, una herramienta muy polémica, al grado de que ni siquiera quienes la están produciendo, o sea, las grandes corporaciones, están completamente seguras de que lo que están haciendo sea correcto.

Por consiguiente, el también vicepresidente de la Red de Humanistas Digitales y fundador del Club Wikipedia de la Facultad de Filosofía y Letras de la UNAM aseguró que una de las problemáticas más fuertes de la IA es la posibilidad de crear lo que se conoce como deepfakes o mentiras profundas, algo que recientemente hicieron con el jefe de Gobierno de la Ciudad de México, Martí Batres.

"Es decir, tú puedes tomar el video de una persona y pedirle a la inteligencia artificial que haga o diga, a partir, digamos, de los materiales que tú le has dado, que esa imagen hable y diga una cosa distinta a la que pudo haber dicho, en este caso, Martí Batres", explicó el filósofo.

"Al presentar esto, pues ella [Xóchitl Gálvez], de alguna manera, valida que eso es posible, o sea, eso que ella quiere utilizar en su favor, puede ser introducido en las campañas en un sentido negativo, porque ya les dio lugar. Entonces, yo creo que está corriendo muchos riesgos desde el punto de vista político. Yo creo que fue una mala movida", añadió.

Crea una imagen falsa de sí misma

Hacia el final del video en el que fue presentada, iXóchitl menciona que ella sí pronuncia bien la letra r, una característica de la candidata de la derecha que ha sido motivo de burlas y discriminación en su contra. "iXóchitl además pronuncia bien la r, no dice egue, que tengan un bonito día", concluye la vocera.

Sobre este asunto, el humanista digital analizó que es muy "interesante que uno de los problemas políticos centrales" de la sociedad contemporánea es, precisamente, el problema de la identidad y, sin embargo, Gálvez decida crear una imagen falsa de ella misma.

"Que la gente esté peleando por tener o sostener su identidad a partir de los elementos que quiera, digamos, (...) por su condición, vamos a decirlo, de origen, como los que quieren tener su identidad a partir de la forma en que se han construido", señaló.

"Pero me parece que en eso también falla [Xóchitl Gálvez] porque, en lugar de afirmarse, es decir, tú piensa: ella trata de afirmarse, por un lado, en sus orígenes indígenas y en sus orígenes en la pobreza, como una persona que es auténtica y que es mexicana y que es originaria y que, además, eso le da picardía. Pero, al mismo tiempo, crea una imagen artificial de ella, entonces, ¿qué puede uno pensar de eso?", cuestionó el divulgador.

Un artificio para ocultar algo que la sociedad rechaza

Ahora bien, para el doctor en filosofía, el problema de fondo es que, en realidad, toda la campaña de Xóchitl Gálvez es un intento por ponerle rostro afable a algo que, en este momento de la historia de México, una parte sustantiva de la sociedad rechaza: los partidos que conforman al bloque opositor.

En ese sentido, para Priani Saisó es lógico que la candidata opositora y su equipo de campaña comiencen a crear imágenes artificiales, ya que es más fácil ocultar mediante un artificio a los grupos que están detrás de ella. "Porque eso es lo que está haciendo en el fondo de su campaña, literalmente, tratando de que el votante y el ciudadano en general, no vea lo que hay detrás, aunque no lo puede ocultar en realidad".

"Lo que [Xóchitl Gálvez] quisiera es que uno no viera lo que hay detrás de su candidatura (...), es una vacilada eso de que se presenta como una candidata ciudadana, pero una candidata ciudadana de los tres partidos que han gobernado, bueno, uno 70 años (...) y que claramente, en este momento político están desmembrándose", aseveró el humanista digital.

Es necesario que México regule la IA

En un sentido más general, Priani Saisó señaló que es preocupante la influencia que la inteligencia artificial puede tener en el comportamiento humano. Por ejemplo, dijo, la lengua que utiliza esta tecnología, su actitud, sus movimientos y sus gestos, terminarán influyendo en la sociedad.

"No sólo por el video específico, sino, en general, porque, digamos, Chat GPT usa un tipo de español que no es el que hablamos comúnmente. Ahí es bonito, otra vez, lo de la pronunciación de la [letra] r, la forma en que habla la inteligencia artificial no es la forma en que hablamos", dijo el profesor de Historia de la Filosofía.

Y agregó que, hasta ahora, no se sabe si los modos de la IA van a cambiar la forma en la que lo hacemos los humanos, que actuamos por imitación.

Por todo lo anterior, para el estudioso de las ideas, el país latinoamericano debería de empezar a pensar en regular la inteligencia artificial, "porque ya está ahí, ya la consumimos, ya la hacemos y, entonces, hay que empezar a ver qué límites le ponemos a eso".

No te pierdas las noticias más importantes

Suscríbete a nuestros canales de Telegram a través de estos enlaces.

Ya que la aplicación Sputnik está bloqueada en el extranjero, en este enlace puedes descargarla e instalarla en tu dispositivo móvil (¡solo para Android!).

También tenemos una cuenta en la red social rusa VK.

ExpandirMinimizar