La Fiscalía detecta por primera vez delitos relacionados con inteligencia artificial en Sevilla

La inteligencia artificial ha tenido su gran explosión este año. Todos hemos caído en la creación de imágenes, casi como con un juego que también está al alcance de los malos con una nueva vertiente delictiva que está empezando a llegar a la Fiscalía en Sevilla.

Aquí no se han denunciado casos como el detectado en Ayamonte o Almendralejo, donde menores fueron acusados de desnudar digitalmente mediante Inteligencia Artificial a compañeras de clase, pero sí se han detectado algunos casos de creación de pornografía a través de la digitalización. "De los casos que llegan, la mayoría son la cara de una persona en un cuerpo que no es el suyo, pero entran pocos como delito de creación de pornografía", explica Gabriel González, fiscal delegado de Ciberdelincuencia.

Es un delito que está castigado, pero "debe haber certeza de que las imágenes de contenido sexual son de menores. El problema es cuando no se puede constatar que sean reales ni que sean menores".

Aquí entra la distribución. El caso de Olvido Hormigos cambió el Código Penal sobre la difusión de vídeos sexuales sin consentimiento. La exconcejala fue víctima en 2012 de la difusión de un vídeo íntimo. Su repercusión fue determinante para castigar a quien, "sin consentimiento de la persona afectada, difunda, revele o ceda a terceros imágenes o grabaciones audiovisuales de la víctima que hubiera conseguido con su consentimiento en un domicilio o cualquier otro lugar íntimo o privado con la intención de menoscabar gravemente su intimidad personal".

"Las imágenes pornográficas creadas con Inteligencia Artificial están idealizadas, por lo que es difícil discernir si son menores de edad. Están en la línea entre los 15-16 y los 20 años. Son creaciones, personas que no existen, por lo que la pericial de la edad que puede hacer la Policía es complicada", advierte el fiscal.

El abogado especialista en ciberdelitos Fran Peláez, del despacho Penaltech, va más allá. "La tecnología que utilizan los delincuentes está a años luz de las herramientas de las que dispone la Justicia. No tiene actualmente capacidad de rastrear y llegar al origen de la imagen, que suele estar en Brasil, China, Rusia o Senegal, donde la Justicia Española ni puede identificar ni juzgar".

Peláez considera que a la hora de perseguir la difusión de imágenes "es prácticamente imposible localizar la cadena completa. A esto se suma que en aplicaciones como Telegram o WhatsApp, si el usuario no tiene desactivada la descarga automática de imágenes, se puede encontrar con un problema. Por esta razón, desde nuestro punto de vista, la posesión y distribución son cuestiones relativas".

Los escasos asuntos que llegan por ahora se archiven en su mayoría. "Es difícil llegar hasta la creación porque suelen estar en países con los que no hay tratados de colaboración. Además con la Ley del Sí es Sí quienes comparten estos contenidos en sus redes sociales también cometen delito de distribución", explica el fiscal.

Frentes abiertos

Cuando la Justicia se enfrenta con delincuentes con IA, existen dos frentes abiertos. "Por un lado hay que concretar el hecho delictivo existente y por otro, encontrar quién está detrás de esa creación", argumenta Gabriel González.

A esto se suma el hecho de la existencia de webs creadas específicamente para hacer contenido audiovisual pornográfico. Detrás de ellas hay empresas en países donde este tipo de creación no es delito. No se tiene que ser un experto para encontrarlas ni para usarlas. Sólo hace falta subir una foto de cuerpo entero y esperar menos de un minuto. Esto no es delito en el actual Código Penal aunque algunos especialistas, como Rocío Pina, profesora de la UOC consideran que con este tipo de imágenes "se desinforma, manipula se destruye la reputación de la víctima de la misma manera que lo hace el porno de venganza".

Estas mismas redes sociales "tienen sus propios mecanismos de autocensura, pero la hay modos de burlarlos como a través de una VPN (red privada virtual) en el extranjero. En esos casos lo que hacemos es bloquearlas para que nadie pueda conectar con ella en España y que a nivel de usuario no sea fácilmente accesible ”. Es mas, las redes sociales y aplicaciones de mensajería generan un efecto multiplicador “por lo que la persecución de la difusión es inaplicable en la práctica", afirma Peláez.

Ahora bien, en cuanto a las imágenes generadas por la IA, los deepfakes no cuentan con un tipo penal específico, aunque eso no significa que puedan quedar impunes. En cualquier caso, en estos temas hay que hilar fino porque como recuerda el fiscal de ciberdelincuencia, "un mero desnudo o una foto de los órganos sexuales no es pornográfico salvo que sea un menor”. Respecto a los deepfakes o creaciones ultrafalsas que tienen apariencia real. Los montajes de las caras en cuerpos de famosos y al revés es algo “que ha existido siempre, pero ahora está mucho más logrado con las nuevas herramientas".

Delitos

La mayoría de los asuntos que llegan están relacionados con delitos contra el patrimonio. "Ahora tenemos uno de una persona conocida a la que han hecho un fotomontaje de contenido pornográfico que además han difundido en su entorno. De estos asuntos ha habido siempre”, pero estas herramientas digitales nuevas los complica más y cuanto más permita. Cuanto más permita crear personas simuladas, más difícil será investigarlo", afirma Gabriel González. Otro de los asuntos que han llegado a la Fiscalía, aunque se ha archivado es el de un vídeo de tipo hentai (anime de temática sexual).

En el tema patrimonial las empresas, sobre todo financieras, están implementando más medidas cada vez y mejorando los filtros. "Desde la Policía se centran en saber quién se conecta y sacar las identidades pero la mayoría son desde el extranjero. Hay veces que lo único que se puede hacer es bloquear el acceso a estos contenidos web desde España".

Desde Penaltech se han gestionado asuntos aunque no han llegado al juzgado. "Todavía existen pocos", asegura. “El uso de imágenes de personas para la creación de contenido de índole sexual es algo que siempre ha existido y siempre existirá, pero nos encontramos con cuestiones muy novedosas”.

Fran Peláez identifica entre ellos los relativos a la propiedad intelectual, vulneración del derecho a la intimidad, la responsabilidad penal de la persona jurídica de las empresas que crean este tipo de contenido, la responsabilidad penal del autor material de la imagen, pornografía e incluso corrupción de menores, “aunque sean menores virtuales” y tenencia y distribución de pornografía infantil.