“La Inteligencia Artificial en Justicia es de alto riesgo ya que estamos hablando de derechos y libertades y no se puede experimentar”

La tercera jornada del XXXI Curso Internacional de Defensa, que se celebra hasta el viernes en Jaca, ha abordado distintos aspectos relacionados con la Inteligencia Artificial (IA) y la seguridad, como la investigación criminal, la ciberseguridad en el entorno de las redes críticas o la Justicia.

En este último ámbito, el juez titular del Juzgado nº 2 de Guadix (Granada), Alfonso Peralta, ha tratado temas vinculados a la Justicia y la IA. En su intervención, ha asegurado que la IA “va a impactar en asuntos de Justicia en todos los ámbitos, de hecho ya lo está haciendo”. En concreto, se ha referido a una sanción reciente del Tribunal Constitucional a un abogado por utilizar por primera vez citas de jurisprudencia falsas, tras emplear chat GPT, obteniendo unos resultados igualmente falsos.

El juez Peralta considera que, en la actualidad, “hay un tsunami normativo a nivel digital que llega de la mano del Reglamento Europeo de IA, pero hay más sobre criptoactivos, chips o mercados digitales”. A su juicio, “la Justicia es un ámbito de alto riesgo conforme al reglamento y todas las herramientas de IA han de atenerse a unas garantías de seguridad, transparencia y robustez”.

Por otro lado, ha proseguido el ponente, “el poder judicial va a ser garante de los derechos y libertades afectados por la IA, como la impugnación de algoritmos públicos, el reconocimiento facial que se va a introducir en el reglamento o el control de fronteras”.

El juez Alfonso Peralta también ha señalado que “los fondos europeos están invirtiendo en proyectos de soluciones digitales, pero antes de sacar un proyecto y una solución digital, lo primero es saber las necesidades, en qué nos puede ayudar la IA, como puede ser evitar las tareas más tediosas y de menor valor añadido, y a partir de ahí sacar herramientas que aporten soluciones”. Además, ha explicado que “el reglamento europeo está en vigor, pero todavía no es aplicable; en España, de momento, sólo se ha impugnado un algoritmo, Bosco, por lo que no hay demasiada jurisprudencia, que viene del exterior, de Estados Unidos y de otros países europeos”.

Entre sus conclusiones, el ponente considera que “la IA en Justicia es de alto riesgo, ya que estamos hablando de derechos y libertades. No se puede experimentar, hay que ir paso a paso y sobre seguro”. También ha apuntado que “no por digitalizar un tema va a ser mejor. Si está mal hecho o si no funciona y lo digitalizas, va a seguir mal, por lo que hay que hacerlo a partir de tareas sencillas y seguras”.

Finalmente, ha concluido que hay que aprovechar las oportunidades que ofrece la IA para una verdadera transformación digital. En definitiva, “no ceñirnos solo a una solución digital, sino hacer un análisis de contexto y buscar hacia el futuro esa verdadera transformación digital”.

Investigación criminal

En la jornada de hoy también ha intervenido el teniente coronel Juan de Dios Gómez, jefe del Departamento de Apoyo Tecnológico y Operativo de la Unidad Central Operativa de la Guardia Civil. En su intervención ha asegurado que “la investigación criminal, desde siempre, ha incorporado la tecnología como una herramienta fundamental para la lucha contra el crimen”. En este sentido, “la IA es una nueva revolución tecnológica que va a ser integrada en la investigación criminal”.

La clave, a su juicio, “es cómo llevar a cabo ese proceso de una manera eficaz y rápida que nos permita ganar la carrera tecnológica al crimen, haciéndolo de una forma respetuosa con los derechos fundamentales, y con transparencia y compatibilidad con las garantías procesales”.

El teniente coronel Juan de Dios Gómez ha señalado que “la regulación de esta tecnología todavía no es muy completa, pero ya se atisban determinados límites que hay que respetar y, en ese sentido, la Guardia Civil tiene predisposición de transparencia para establecer un diálogo con la judicatura y la sociedad en temas éticos y de coherencia con las garantías procesales”.

En su intervención también se ha referido a uno de los proyectos vinculados a la IA que actualmente hay en marcha. En concreto, ha comentado el ponente, “pretendemos generar un algoritmo que nos permita calcular el área de cobertura de una antena de telefonía móvil con precisión para buscar a una persona desaparecida que tiene su teléfono encendido y cuya vida puede correr peligro. Agilizar ese proceso de cálculo y hacerlo más eficaz a través de las herramientas de la IA nos permitirá obtener mejores resultados”.

Ciberseguridad

Finalmente, el doctor en Informática e Ingeniería de Sistemas, David Chinarro, ha hablado de la irrupción de la IA en la ciberseguridad en el entorno de las redes críticas civiles. En su intervención, el ponente ha lanzado un mensaje a la sociedad al asegurar que “el Ejército está para muchas cosas como garantizar la seguridad y la defensa interior y exterior, pero hay una invasión vinculada a la IA que se puede infiltrar por toda la sociedad y que va a los puntos sensibles como son las infraestructuras críticas; hay que estar muy atentos a ello poniendo los medios necesarios para que eso no suceda”.

Además, ha concluido que las infraestructuras críticas que atienden servicios esenciales para la sociedad como el suministro de agua y de electricidad o las comunicaciones, “hay que defenderlas conjuntamente desde los ámbitos civil y militar poque es de interés nacional que esas infraestructuras que están sosteniendo servicios sensibles no reciban ataques”.