La amenaza de la inteligencia artificial: ¿cómo distinguir un bulo, fraude o estafa de la realidad?

José Luis Ábalos caracterizado como Máximo Décimo Meridio, protagonista de la película ‘Gladiator’ cuyo papel interpretaba Russel Crowe, es uno de los vídeos en forma de parodia –difundido a través de X- realizado por la inteligencia artificial que se ha hecho viral una vez que el exministro socialista anunciara su decisión de pasarse al Grupo Mixto y no renunciar así a su acta de diputado como le exigía el PSOE, tras estar implicado en el caso Koldo.

En el vídeo vemos la escena de la película en la que el emperador romano Commodo descubre que Máximo Décimo Meridio sigue vivo peleando como gladiador tras haber sido defenestrado. En este caso, lo que escuchamos son las voces de Pedro Sánchez (como el emperador) y Ábalos (como Máximo Décimo), una vez que han sido clonadas por la inteligencia artificial para parodiar así uno de los momentos de mayor relevancia informativa de los últimos días.

No es este el primer caso de suplantación de identidad realizado por la IA ni será el último. Desde que esta herramienta ha llegado a nuestras vidas somos testigos de miles de imágenes, vídeos e incluso voces que son modificadas, clonadas y utilizadas por quienes la manejan para, como en este caso, hacer una parodia sin mayor relevancia, pero en otras, llegan a cometer fraudes o estafas planteando serias dificultades a quienes las padecen.

Nadie escapa a las artimañas de la IA, ni siquiera el Papa Francisco, cuya imagen con un gran abrigo de plumas blanco (abrigo Michelín, como denominaron algunos) paseando por la calle se difundió por las redes sociales hace un año. Una fotografía generada por la inteligencia artificial hace un año no sin generar cierta polémica.

Este es sin duda una de las amenazas de la IA, uno de los retos a los que nos enfrentamos como sociedad, saber y poder diferenciar qué es y qué no realidad y así poder evitar posibles estafas y fraudes que están aumentando considerablemente.

¿Cómo distinguir un bulo, fraude o estafa de la IA?

En ‘Mediodía COPE’, Julio Gonzalo Arroyo, director del centro UNED de investigación en procesamiento del lenguaje natural y recuperación de información, afirma categóricamente que hoy día “no hay ningún sistema eficaz para detectar si algo lo ha escrito una inteligencia artificial como ChatGPT o Gemini, no existe” para poder diferenciarlo de la realidad.

Y explica en tres puntos por qué es tan complicado, “primero, porque cada vez lo hacen mejor; segundo, porque van evolucionando y tercero, porque las herramientas que detectan si algo está generado o no por una inteligencia artificial también, a su vez, son herramientas de IA que aprenden de datos”.

Sobre este último aspecto destaca Gonzalo que al evolucionar constantemente la IA, “cuando llega la siguiente evolución, todo lo que has entrenado no te sirve para nada; cada vez son más indistinguibles”.

Ahora es muy “fácil” que cualquier usuario con acceso a Internet pueda clonar cualquier voz “descargándose una aplicación y por tan solo un euro”, explica este experto en lenguaje natural, lo que hace que “la probabilidad de que se cometan fraudes aumente muchísimo”.

00:00

Volumen

Comparte en:

Copiar enlace Descargar

¿Es inteligencia artificial o realidad?: así podemos distinguirlo

-

¿Cómo protegernos ante posibles bulos o estafas?

Como sabemos, la inteligencia artificial no solo es capaz de clonar voces, sino que “hay muchos otros tipos de suplantaciones que son cada vez más difíciles detectar y que cada vez nos llegan más por cualquier medio digital”, apunta Julio que advierte que “hay que estar vigilante y no fiarnos de nada”.

Esta es, sin lugar a dudas, la mayor precaución que debemos tener en cuenta para no caer en bulos o posibles estafas ante, lo que define este experto, “un futuro oscuro”. Y es que, aunque considera que “lo más probable es que estas herramientas sigan siendo cada vez mejores a toda velocidad”, hay una característica que no debemos olvidar “estas inteligencias artificiales están empezando a aprender de lo que ellas mismas escriben y está comprobado que hay un efecto de copia de la copia de la copia… de manera que degeneran también”.

Por este motivo, incide Gonzalo en que “mejorarán, pero ni siquiera eso está garantizado”.

‘By humans’, el sello español de certificación que avala que un trabajo ha sido realizado por humanos y no por la IA

Martí Santiago y Lucía Polinario son dos jóvenes cordobeses, víctimas de un bulo creado por inteligencia artificial, que han creado 'By Humans' el sello español de certificación que avala que un trabajo ha sido realizado por humanos y no por la IA. Se trata, además, de la primera entidad certificadora de la UE.

Una herramienta que nos ayuda a distinguir entre el trabajo realizado por humanos y el que está hecho por la IA, algo así como una certificación humana.

Como explica Lucía, una de las creadoras de 'By Humans', se trata “ya no solo de valorar el trabajo humano y reconocer el empleo humano, sino por todas las implicaciones éticas e incluso legales que puede tener el uso de la IA”

Escucha la entrevista completa a Julio Gonzalo Arroyo, director del centro UNED de investigación en procesamiento del lenguaje natural y recuperación de información, en 'Mediodía COPE'