Paolo Benanti, fraile y experto en IA: "Cuando divinizamos una herramienta, creamos desastres"

Paolo Benanti es fraile y uno de los mayores especialistas en Inteligencia Artificial. De hecho, forma parte desde octubre de 2023 de la comisión de expertos de la ONU en esta materia. Por ello, en una entrevista concedida a la agencia EFE, se muestra tajante sobre por dónde debe pasar el futuro de la IA: “Es urgente acordar un guardarraíl ético para que no descarrile”. En cualquier caso, Benanti insta a la sociedad a no temer esta herramienta que puede abrir la puerta de otras técnicas y avances.

A sus 51 años, es habitual ver a Paolo Benanti recorrer las calles de Roma con su hábito franciscano y una mochila a la espalda, donde se intuye almacena sus amplios conocimientos por un lado de tecnología y por otro de Teología Moral, especialidad de la que se licenció en la Pontificia Universidad Gregoriana con la tesis 'The Cyborg: Cuerpo y corporeidad en la era del poshumano'.

Benanti participará este mes de junio en la próxima cumbre de líderes del G7 que se celebra en Italia, como presidente de la Comisión de Inteligencia Artificial también en el Gobierno de Meloni.

Transparencia, fiabilidad y protección a los débiles, ejes de la regularización de la IA

En la entrevista a EFE, asegura que a lo largo de su historia, los franciscanos han tenido grandes científicos como Roger Bacon: “Desde el punto de vista de la fe, la razón es un don de Dios, por lo que todo lo que sigue la razón no es contrario a Dios".

En pleno debate sobre el uso de la IA, Paolo Benanti considera apremiante crear "un guardarraíl" ético que la encauce para que no se pervierta en su servicio a la humanidad. Para ello, el fraile ha distinguido entre valores, normas y principios.

“Los valores no pueden guiar una IA planetaria porque cambian en función de las culturas. Las normas sirven básicamente para proteger los valores y los principios, en cambio, sí ofrecen una vía más fácil para encontrar un acuerdo global. Pensemos en un coche descontrolado: si giras a la izquierda matas a una persona, si lo haces a la derecha, a dos. En ambos casos consta el valor de la vida, pero el 'principio' de minimizar los daños ayuda. Los principios éticos son globales", ha explicado.

Siguiendo este razonamiento, Benanti considera que las máximas de transparencia, fiabilidad y protección de los más débiles deben marcar el progreso de la IA. No obstante, Fray Paolo defiende que no tiene por qué ser empleada para hacer el mal.

"El problema no está en la tecnología, sino en nuestra conciencia", sostiene. Por eso cree que el hombre se acostumbrará a la IA como lo hizo con la bicicleta y recomienda "no dejarse atrapar por una hermenéutica de la búsqueda del mal", no temerlo.

"Debemos estudiar todo el bien que puede hacer, no solo temerlo. No pensar en si puede errar en medicina, comprender cómo puede hacer de cada médico el mejor sobre la Tierra", precisa.

Aunque, claro está, tampoco conviene subestimar "el misterio del mal", la tentación de usarla con intereses fraudulentos, por no decir políticos o económicos.

Cuestionado sobre si la tecnología podría eclipsar lo divino, el fraile apunta que “la cuestión no es si la IA podrá ayudar o perjudicar la búsqueda de Dios, sino si proyectaremos en ella un poder que la divinice. Cada vez que divinizamos una herramienta, creamos los mayores desastres de la historia", advierte.