Rosa Crujeiras: “La IA es tan peligrosa como un cuchillo cuando no lo sabes manejar”

La Escuela Técnica Superior de Ingeniería (ETSi) se ha convertido esta semana en una Torre de Babel. Unos 1.300 investigadores europeos –o pertenecientes a instituciones de los países miembro– celebran hasta el viernes la novena edición del Congreso Europeo de Matemáticas. La segunda cumbre más importante en la materia a nivel mundial y la principal en el seno de la Unión Europea. Los expertos se resguardan bajo la sombra de los árboles de camino al antiguo pabellón Plaza de América. En su interior, los asistentes buscando el auditorio o revisando la programación contrastan con el ir y venir de los universitarios que aguardan fila para matricularse en las ventanillas administrativas. Todos juntos conforman una llamativa estampa si se compara con otras facultades, en las que no hay un triste alma por estas fechas. 

No es el caso –ni de lejos– de la sede principal de una cumbre que se celebra cada cuatro años. Los stands de las asociaciones y universidades más importantes del mundo –como Oxford, Cambridge o Princeton– están dispuestos alrededor del patio de la primera planta. El bullicio es notorio. 

Uno de los temas que más atención ha llamado en esta novena edición es el de la inteligencia artificial (IA). El mismo lunes, jornada en la que se inauguró la cumbre, hubo una mesa redonda dedicada a la materia. Una de sus participantes, la catedrática de Matemáticas de la Universidad de Santiago de Compostela Rosa Crujeiras ha sido clara sobre este gran desafío que despierta fascinación y sospecha a partes iguales: “El gran reto es entender cómo funcionan los sistemas de inteligencia artificial. Los cuchillos también son una amenaza si no sabemos manejarlos y los cogemos por el filo”. 

Y es que, como detalla la investigadora a este periódico, “la inteligencia artificial son sistemas de software que, orientados a la resolución de preguntas planteadas por los humanos, producen salidas en forma de contenidos, recomendaciones o predicciones”. Muchos de estos sistemas “aprenden de datos” y ahí “entra la estadística”. En el fondo, apunta la docente, “son los fundamentos matemáticos que nos permiten garantizar la precisión de esas predicciones que hacemos y nos ayudan a explicar si estos sistemas de inteligencia artificial son fiables” o, por el contrario, muestran riesgos al utilizarlos.

Por tanto, para afrontar su conocimiento son imprescindibles las matemáticas por una sencilla razón: los algoritmos “se alimentan de datos”. Pero además, la investigadora indica que, como expertos, “deben dar garantías de que los algoritmos no tienen sesgos, que han aprendido de muestras equilibradas y que se han aplicado las fórmulas correctas”. En este sentido, incide en que se debe “ser muy consciente” de los “márgenes de error”, porque la inteligencia artificial “se puede equivocar”. 

Cuestiones que han quedado recogidas en el Reglamento Europeo de IA, aprobado el pasado viernes. Esta normativa “identifica los sistemas de inteligencia artificial de alto riesgo –básicamente, cualquiera que interactúe con humanos– y se les va a requerir una garantía en cuanto a la toma de muestras, la formulación de hipótesis o la robustez de los métodos”. En todos estos campos entra en juego la estadística.

"Que tengamos datos no significa que tengamos información"

“Tenemos muchas oportunidades en la extracción de información a partir de las grandes bases de datos”, reflexiona Crujeiras sobre los aspectos positivos que traerá la inteligencia artificial para la sociedad. “En los últimos años, se habló mucho del big data, pero que tengamos datos no significa que tengamos información”, matiza y hace hincapié en que estos datos se recogen “para entender, para comprender y predecir”. “Todos los mecanismos de la IA que nos ayudan a desentrañar esa información que tenemos en los datos, a través de métodos estadísticos, nos afectará en todo”, subraya y apunta a uno de los campos emergentes como la medicina personalizada. Pero también a la rama –por ahora poco conocida– como la de las humanidades digitales: “Hemos podido analizar la influencia de ciertos autores en literatura posterior o en qué momento una palabra se empieza a hacer viral”. 

"Como ciudadana me gustaría tener la tranquilidad de que las decisiones que se toman se basan en datos y tienen en cuenta las consecuencias"

Pero la aportación de los expertos va más allá de los números. “Imagina que tenemos cinco ecografías 3D de tumores, desde la estadística podemos repensar cómo extraer la información en estos contextos de datos complejos que los sistemas de inteligencia artificial nos ayudan a manejar”, explica la experta sobre un campo de acción en constante evolución. 

Además, esta recogida de información puede ayudar enormemente en el plano político, aunque considera que, por parte de las instituciones gubernamentales, “falta una toma de decisiones basada en datos”. Como ciudadana, Crujeiras enfatiza en que le gustaría “tener la tranquilidad de que las decisiones que se toman se basan en datos y tienen en cuenta las consecuencias”.