¿Somos esclavos de los algoritmos?

La Inteligencia Artificial (IA) ha cambiado nuestro ocio e incluso nuestra forma de relacionarnos. En los resultados que nos brindan los algoritmos con datos de nuestros perfiles digitales basamos parte de nuestras decisiones no siempre triviales, pero ¿somos esclavos de los algoritmos? Evitarlo pasa, según los expertos consultados por COPE, por la formación y la denuncia de cualquier abuso. Entre los principales riesgos, la manipulación y la adicción.

A la hora de determinar si un algoritmo puede beneficiarnos o perjudicarnos es preciso analizar quién está detrás y qué es lo que pretende. Para Rafael Tamames autor de “La Inteligencia Artificial y tú”, el problema con la tecnología y, los algoritmos no son una excepción, es “cómo se utilizan da igual que sea TikTok o tu teléfono móvil”.

Los algoritmos “per se” ni buenos ni malos

Los algoritmos sirven para encontrar patrones en grandes cantidades de datos, son meras instrucciones matemáticas, operaciones que conforman la IA y como tal no son por sí mismos ni buenos ni malos: “en manos de Putin, de Puigdemont o de otro tipo de personas los algoritmos pueden ser malos pero en el algoritmo por si mismo no hay nada malo, pueden usarlo determinadas personas, empresas o Estados para hacer el bien o el mal”, subraya Tamames.

En la misma línea, en Herrera en COPE la periodista científica Laura G. de Rivera-autora de “Esclavos del logaritmo. Manual de resistencia en la era de la inteligencia artificial”- aseguraba este jueves que esta tecnología “no es algo temible o peligroso porque es un conjunto de unos y de ceros, el peligro es para qué se pueden usar esos datos y las personas que hay detrás y que lo han creado”.

En función de cómo hayan sido diseñados los algoritmos, pueden contribuir a la medicina personalizada, a agilizar cualquier trámite empresarial o administrativo y a ayudarnos a elegir películas o canciones en función de nuestros gustos pero también, incluso a la vez, pueden tratar de manipularnos, vendernos ideas o productos que en realidad no necesitamos o engancharnos con contenidos ilimitados además de encerrarnos en burbujas generadas por la impresionante estela datos que dejamos en Internet, ya sea utilizando los buscadores, las redes sociales o una IA generativa.

De esos datos, los algoritmos generan perfiles para brindarnos contenidos que consideran que pueden resultar interesantes para nosotros y tienen grandes posibilidades de acertar pero no al cien por cien porque todas sus resultados se basan en datos y la vida va más allá de lo numérico y porque tampoco los datos son neutrales, pueden tener puntos ciegos, contener prejuicios, errores o ser parciales.

TE PUEDE INTERESAR

El algoritmo de TikTok: esta es la música y las cuentas que más se viralizan en la red social

“La máquina cree que te conoce y decide quien eres cuando en realidad no sabe tanto de ti, ni de tus intereses. Juega un poco con la información que tiene que es bastante pero no toda y por eso muchas veces nos propone cosas que no nos interesan, en ocasiones incluso pueden llegar a herir nuestra sensibilidad. Esto ocurre en el 20 por ciento de los casos pero tampoco les preocupa excesivamente a las tecnológicas porque en en el 80 por ciento restante no nos molestan e incluso pueden funcionar”, explica en COPE Andrea Rosales, investigadora del grupo Communication Networks and Social Change (CNSC), del Internet Interdisciplinary Instituto (IN3) de la Universidad Oberta de Catalunya (UOC.

¿Están decidiendo los algoritmos por nosotros?

En los resultados de los algoritmos basamos parte de nuestras decisiones. Además hay algoritmos que otros utilizan para tomar decisiones que nos afectan de forma que, para Rosales, hay muchas decisiones que debido a la tecnología escapan de nuestro control o de nuestra consciencia. Detrás de estos algoritmos subrayan hay grandes tecnológicas que “deberían ser más transparentes sobre el funcionamiento de los algoritmos que diseñan”.

Sin embargo y, según subraya esta investigadora, “hoy por hoy no hay forma de obligar a estas grandes corporaciones a mostrar todo el código de todo lo que hacen. Esta opacidad suele justificarse como secreto comercial, medida de seguridad, política de prevención del fraude o por la complejidad de los algoritmos”.

G. De Rivera recuerda que “no hay una IA diseñada para que nosotros tomemos la mejor decisión sino para que tomemos la mejor decisión para quien la paga, quien la ha diseñado o quienes compran sus usos y que su objetivo no es prioritariamente nuestro bienestar físico sino maximizar su beneficio económico por lo que es esencial saber quienes están detrás de los algoritmos y lo que persiguen”.

También Rosales apunta a que “no todo es una fórmula matemática perfecta y los datos cuantitativos no resuelven todos los problemas de la vida cotidiana”. Una aplicación de citas online puede usar las mejores fórmulas para seleccionar a los candidatos o candidatas que más nos convienen pero no siempre las personas con las que conectamos son las que responden a una lista de requisitos sino simplemente aquellas en las que por muchos motivos, no todos cuantificables, se produce esa conexión.

Decisiones fundamentales para tu vida como que te concedan una hipoteca o no te la den o que puedas ser candidato para un ensayo clínico pueden adoptarse con IA y “tú no ves la plataforma por ninguna parte”.

¿Quienes están detrás de los algoritmos?

Son unas pocas compañías las que están detrás de la mayoría de aplicaciones y programas de IA. Se trata de Google, Microsoft, Apple, Amazon y Meta, son las empresas que más ingresos generan en todo el mundo y, según subraya G. De Rivera “grandes monopolios dirigidos por personas como Mark Zuckerberg o Elon Musk con fuerte personalidad y formas autoritarias de dirigir. Son 4 gatos pero dirigen el mundo tanto por sus millonarios ingresos como por el alcance de sus productos”.

Recuerda que hay 4.353 millones de personas usan Google para acceder a resultados de Internet, dos terceras partes de los adultos de todo el mundo y que Meta tiene el doble de usuarios activos al día que todos los habitantes de Europa, de Estados Unidos y Latinoamérica juntos.

Estos gigantes tecnológicos son, subraya, los que “dirigen todo el cotarro de los algoritmos y lo que buscan es seguir aumentado su beneficio económico. Algo que logran a costa de nuestros datos y de los de otros millones de personas en Internet que como nosotros ceden información personal y de comportamiento, de tiempos de conexión, localización geográfica, interacciones con otros usuarios o de cualquier búsqueda online que hacemos”.

La comodidad o la rápidez que nos da la IA puede llegar a ser según señala esta periodista científica un regalo envenenado: “cedemos muchos de nuestros datos a cambio de que nos recomienden una película o una serie; el precio por llegar a los sitios con los navegadores geográficos es que se atrofien conexiones neuronales en nuestro cerebro por falta de uso y cuando recurrimos a ChatGPT o otros sistema de IA generativa con los que renunciamos, en parte, a pensar y a utilizar nuestras habilidades cognitivas y creativas. No son sistemas gratuitos. Pueden, de hecho, salirnos muy caros”.

El principal riesgo, señala, es perder nuestra humanidad, de pensar, de tener pensamiento crítico, buscar información, memorizar, decidir qué hacer, cuando no usamos estas capacidades “vas dejando tu vida en sus manos, desde qué película ver esta noche hasta a qué político votarás en la próximas elecciones, no podemos dejar en manos de otros lo que nos corresponde a nosotros”.

Algunos alertan del riesgo para las democracias que tiene esta tecnología. Además de las amenazas externas los propios partidos las utilizan no solo para personalizar los mensajes que envían a sus votantes o al menos segmentarlos sino incluso para tratar de desmovilizar al electorado que saben pertinentemente que no les votará.

¿Cómo nos podemos proteger?

Antes de recurrir a la IA debemos comprender sus mecanismos, formarnos para estar informados y valorar hasta qué punto nos puede compensar ceder nuestros datos a estas grandes corporaciones por los servicios que obtenemos a cambio.

Rosales recuerda que, las plataformas digitales no están comprometidas tampoco con la veracidad de la información ni con la relevancia de la información sino con que haya más usuarios enganchados personalizando los contenidos por medio de algoritmos poco transparentes y que van modificando para maximizar sus resultados.

Para Tamames “no todos los algoritmos están diseñados como las redes sociales Tiktok o Instagram para engancharnos y mantener el máximo tiempo posible nuestro interés o nuestra atención. Algunos sí y por ello debemos formarnos y si están haciendo algo ilícito tenemos leyes en cada uno de los países a las que podemos recurrir para denunciar esas prácticas abusivas”.

Se muestra muy crítico con la legislación impulsada en la Unión Europea (UE) que, a su juicio, “nos ha convertido en ciudadanos digitales de segunda. No recibimos actualizaciones de Meta y de Open AI de los que sí se benefician, en cambio, estadounidenses y asiáticos”.

A su juicio, los algoritmos no están entre los principales problemas que tienen los ciudadanos: “las prioridades deben ser la independencia judicial y agilizar su funcionamiento también mediante la digitalización porque cualquier mal uso de la tecnología se soluciona con jueces capaces y rápidos”.

Considera este experto en tecnología, con todo, que como ciudadanos debemos responsabilizarnos de nuestras propias decisiones y ser conscientes de sus consecuencias en lugar de esperar indefinidamente a que “un hada madrina en forma de legislación venga a socorrernos porque, eso aunque nos lo dicen, no va a ocurrir”.

“Si nos decantamos por lo fácil, por lo que nos dan hecho, ¿Quiénes somos? ¿Somos una especie de pedazos de carne que van andando a donde le dice el Google Maps?” zanja Rivera.