Quién está detrás de la creación de bulos de la DANA en Valencia y qué herramientas digitales han usado

En las elecciones de Estados Unidos hemos visto desinformación, FakeNews y vídeos y fotos falsos, casi imposible de saber si son verdad o mentira. También aquí, durante los primeros días después de la DANA, lo mismo: noticias falsas y fakes generados por inteligencia artificial.¿Qué tecnologías están detrás de estos DeepFakes? ¿quién está detrás de estas campañas de desinformación?

Unas preguntas a las que ha respondido este martes en La Linterna Mario Yáñez, consultor tecnológico de empresas como Kyndryl.

Informaciones falsas sobre Estados Unidos

Sobre lo vivido en las elecciones de Estados Unidos, explica el colaborador a Expósito que ha sido un bombardeo masivo e intensivo durante toda la campaña, y no solo en el país americano, sino a nivel mundial. “Se ha usado una imitación de la voz de Biden o de Trump para instar a no votar o difundir noticias falsas”. Además, recuerda que el propio Trump compartió en sus redes contenido generado por IA en su red social, Truth Social, con unas imágenes falsas de Taylor Swift respaldándolo.

“Desde memes y bromas sin más intención hasta verdaderos bulos y ataques a personas e instituciones”, apunta Yáñez.

Bulos sobre la DANA

Adenás de Estados Unidos, la semana pasada circularon noticias e imágenes falsas sobre los efectos de la DANA. Desde imágenes de la inundación hasta mensajes y alertas como la de la rotura de la presa de la Forata, las noticias del parking de Bonaire donde se difundió en redes que había más de 700 tickets sin validar o que se estaban encontrando cientos de cadáveres hasta vídeos descontextualizados de otras riadas o movilizaciones de los equipos de emergencia.

“Lo más peligroso es que todos formamos parte de la cadena de difusión y reenviamos o compartimos información sin detenernos a pensar si es cierta o no”. Pero, ¿qué tecnología usan de base de estas campañas de desinformación? “Sin duda el gran habilitador de esta técnica de desinformación y difusión de bulos, es, desafortunadamente la inteligencia artificial generativa”, explica Yáñez.

Así, hemos visto cómo en los últimos meses han aparecido herramientas, modelos de IA capaces de crear fotos, vídeos muy realistas a partir de una descripción, los llamados prompts, muy sencillos o regenerar tu voz a partir de unos pocos segundos de voz autentica. “Son los famosos DeepFakes avanzados”, aclara Yáñez.

¿Quién está detrás de estos contenidos falsos?

Cuando hablamos de campañas intensivas de desinformación, la creación de contenidos FakeNews o DeepFakes no solo provienen de cibercriminales sino de gobiernos enemigos. Como subraya el colaborador de La Linterna, en el caso de EEUU o Europa, “casi siempre provienen de China, Irán o Rusia”. “Hace unos meses OpenAI desarmó un grupo iraní que usaba ChatGPT para generar comentarios falsos en las redes sociales”, recuerda.

Pero los hackers o ciberdelicuentes no sólo usan chatGPT, Copilot o cualquier herramienta de mercado, (estas tienen controles para evitar la generación de bulos), sino que están apareciendo “hermanos malos” de estas IAs, como “WormGPT”, que no tiene limitaciones.” Si le preguntas como crear un virus informático te lo explicará paso a paso y como hacerlo llegar a empresas y ciudadanos, por ejemplo”. El problema es que la generación de deepfakes, es cada vez más sencilla y más barata y esto hace que cualquiera pueda usarlas y contaminar los medios.

Así, se está trabajando en herramientas para detectar estos fakes. Como no podía ser de otra manera, se trata de modelos de inteligencia artificial que puedan discriminar si un contenido es falso. Ya existe algunos ejemplos: por ejemplo, sistemas que son capaces de detectar si un texto (TFM, tesis doctoral, etc) se ha plagiado o hecho con IA generativa. En los DeepFakes es más complicado, pero evolucionan muy rápido. Probablemente en un futuro próximo, todos tendremos un asistente virtual, como Siri, que nos ayude a filtrar la información.