Sevilla lidera el reto europeo de descifrar los algoritmos

El Centro Europeo de Transparencia Algorítmica (ECAT por sus siglas en inglés) ha vivido hoy martes 18 de abril su puesta de largo. Esta nueva institución europea, que tiene su sede principal en Sevilla y convivirá con el Centro Común de Investigación (JRC) que la Comisión tiene la capital hispalense, asume el reto de ser la principal herramienta para que las grandes plataformas digitales y motores de búsqueda como Google, Amazon, Apple, Twitter, o Meta cumplan con las reglas del juego para que internet se convierta en un lugar seguro.

El objetivo de la entidad, a largo plazo, es atraer a las mentes más brillantes a nivel mundial en materia de inteligencia artificial, análisis de datos, e innovación para investigar si las grandes compañías y los motores de búsqueda cumplen con las obligaciones normativas en aquellos contenidos que atenten contra la privacidad, que favorezcan la violencia de género, o que vulneren a los menores y su salud mental. De este modo, podrán realizar recomendaciones en base a la Ley de Servicios Digitales europea y a la Ley de Mercados Digitales, aprobadas el año pasado, para crear nuevas políticas sobre esta cuestión con incidencia sobre los Estados miembros.

"No estamos improvisando, nos estamos anticipando"

"Los algoritmos han venido para quedarse, influyen en lo que compramos, en las personas que seguimos en redes sociales, e incluso orientan sobre a quién votamos. No estamos improvisando, nos estamos anticipando", ha apostillado Mikel Landabaso, director del JRC en Sevilla. "Necesitamos abrir el sistema de los algoritmos, no para controlar, sino para crear un espacio online seguro, para confeccionar una inteligencia artificial ética y basada en el ser humano".

Por su parte, el alcalde de Sevilla, Antonio Muñoz, ha puesto en valor la enorme oportunidad que supone para la capital hispalense el acoger esta institución como parte del reto municipal de ser una de las "ciudades del futuro": "Sevilla siempre ha tenido vocación europea y los ciudadanos no somos conscientes de la importancia que puede tener para el futuro de la economía de la ciudad". Además, el primer edil ha puesto en valor que la institución permitirá la atracción de talento y empresas que convivirán en el "valle del talento al margen del Guadalquivir". En esta misma línea, ha apostillado que "más allá de nuestro legado histórico, podemos apuntar al futuro basándonos en la innovación y en la ciencia".

También ha asistido al acto de presentación la secretaria de Estado de Digitalización e Inteligencia Artificial del Gobierno de España, Carme Artigas, quien ha hecho especial hincapié en que Sevilla acoge a la "primera agencia centrada en inteligencia artificial", que permitirá abrir las "cajas negras" para que la transparencia sea una máxima en las grandes compañías. Por otro lado, ha recalcado que este desafío no se puede afrontar sin las pymes y ha apuntado que "debemos ayudarlas para que esto no se convierta en una barrera infranqueable". Ha finalizado su intervención dando la bienvenida, "no a la parte del problema, sino a la solución".

Un compromiso que ha asumido la Unión Europea, pero no lo ha hecho de forma unilateral. Colaborará con diferentes socios y tendrá referentes del mismo nivel como Naciones Unidas para que las normativas europeas en materia tecnológica se desarrollen y se cumpan. "Hemos decidido actuar al estilo europeo, poniendo al ciudadano en el centro. Esta institución será clave para entender los desafíos de internet y aplicar la normativa digital", ha incidido Renate Nikolay, directora adjunta de Redes de Comunicación, Contenido y Tecnologías.

De hecho, los científicos y expertos del ECAT cooperarán con representantes de la industria, el mundo académico y organizaciones de la sociedad civil para aumentar el conocimiento sobre el funcionamiento de los servicios digitales y adecuarlo a la reciente norma.

Controlar la Inteligencia Artificial para afrontar nuevos desafíos

Al evento de presentación del nuevo Centro Europeo de Transparencia Algorítmica han asistido expertos en la materia que han abordado cómo pueden confluir las políticas digitales europeas con el incipiente avance de las nuevas tecnologías. "Estamos probando los límites de la tecnología y es evidente que determinados sistemas no están alineados con los valores humanos, porque a veces se usan con un fin negativo", ha recalcado la experta en política digital y datos Francesca Bria, quien ha manifestado que "se debe garantizar la privacidad, la protección a los ciudadanos, al medio ambiente y a los derechos humanos".

Por otro lado, la investigadora en Inteligencia Artificial Krishna Gummandi ha puesto algunos ejemplos de cómo las grandes plataformas tienen incidencia en la vida diaria de los usuarios afectando a su salud mental: "Los algoritmos están vigilando cada aspecto de nuestra vida social y privada. Por ejemplo, muchos estudios concluyen que los de Instagram o Tik Tok llevan a comportamientos adictivos entre adolescentes".