La US abre la caja negra de la IA

La caja negra de un avión se encarga de almacenar todos los datos que se generan durante un vuelo. Los expertos consideran que la inteligencia artificial también cuenta con otra caja negra, que se encarga de otorgarle todas sus habilidades y capacidades. "La inteligencia artificial es como una máquina de cortar carne, introduces la materia prima y sale troceada y sabemos que dentro hay cuchillas que la cortan. El problema de la inteligencia artificial es que das una serie de datos y responde según el problema que quiera resolver", explica la catedrática del departamento de Matemática Aplicada I de la Universidad de Sevilla Rocío González Díaz.

La científica lidera el proyecto Rexasi-Pro con el objetivo de "destapar la caja negra" de la inteligencia artificial para que la sociedad la vea como un entorno "seguro y fiable". Una iniciativa en la que participan España, Italia, Suiza, Reino Unido, Alemania y Bélgica con financiación de las Unión Europea. Por el momento se encuentra en fase inicial, pero no son pocos los desafíos a los que se enfrenta un equipo multidisciplinar, cuya representación sevillana está compuesta por matemáticos de la Hispalense.

"A pesar de su éxito, la inteligencia artificial todavía es una caja negra porque no sabemos explicar sus resultados, ni sabemos predecir cuándo se va a equivocar y por ello no podemos confiar en ella", indica la investigadora, quien señala que "la forma de pensar de las máquinas es diferente a la de los humanos", porque no ofrece un razonamiento para sus respuestas. "El avance técnico de la inteligencia artificial es enorme, pero su progreso ético no lo es tanto y tenemos que controlarlo para que sea seguro y no cometa injusticias".

Para que la sociedad perciba la inteligencia artificial como un sistema robusto, el equipo de Rocío González desarrollará durante dos años "soluciones novedosas" para que la IA sea "fiable y ecológica" en un entorno "muy complejo".

Reducir los recursos y obtener los mismos resultados

La investigadora señala que uno de los puntos clave del proyecto es su apuesta por la eficiencia y el ahorro energético. "Estamos fomentando los coches eléctricos, pero por otro lado estamos creando unos monstruos que necesitan una cantidad enorme de energía para entrenarse y que pueda ser usada por la sociedad". Por tanto, una de las líneas de actuación de la Universidad de Sevilla es reducir los recursos que necesita para su entrenamiento, pero "garantizando matemáticamente que obtenga los mismos resultados".

Aplicación en un entorno muy complejo

Los investigadores han pensado que para la aplicación práctica de toda la teoría se escogerá un entorno lo más delicado, peligroso y complejo posible: "Se nos ha ocurrido aplicar la inteligencia artificial en un hospital. Porque si funciona en un escenario tan complejo, servirá también en cualquier otro caso, mucho menos enrevesado y mucho menos arriesgado".

En lo que respecta a dicho entorno complejo en el que se desarrolla el proyecto, Rocío González detalla que “por un lado, tenemos un enjambre de drones autónomos, es decir, que nadie los está pilotando, y vuelan ellos solos dentro de la planta del hospital, que está cerrada. Por tanto, no puede servirse de satélites para moverse entre las habitaciones. En éstas habrá obstáculos, mobiliario que cada día se dispondrá de una forma diferente. Los drones tendrán que hacer un mapeo 3D de ese edificio. El enjambre de drones entrará en el recinto y se moverá de manera autónoma y nos ofrecerá una imagen virtual del hospital”.

En este punto entra en acción otro enjambre, el de las sillas autónomas, que recibirán la información del enjambre de drones. “Pero la historia se complica un poco más y en ese punto entra en escena un nuevo protagonista: el director de orquesta”, indica la investigadora.

Esta figura “está encargada de poner en comunicación a los drones con la silla de ruedas y en casos muy especiales tomaría el mando. Por ejemplo, si hubiera algún tipo de peligro, como un incendio, un derrumbe o un terremoto, el orquestador actuaría y daría la orden a los drones para que pudieran entrar y dirigir a las sillas de ruedas y al personal general hacia la salida más próxima”, apunta Rocío González.

Los participantes de la Universidad de Sevilla, inicialmente cuatro investigadores, tienen una larga trayectoria investigadora en el campo de la topología computacional y recientemente obtuvieron resultados basados en topología en el campo del aprendizaje automático. Por ello, aportarán la base matemática necesaria para desarrollar una inteligencia artificial robusta, explicable y más ecológica.