El futuro según el juez Marchena: los jueces serán robots y el algoritmo condenará a los acusados
Conferencia en el Colegio de Abogados de Sevilla
El presidente de la Sala Segunda del Tribunal Supremo explica que ya hay "derechos de nueva generación" y advierte de la necesidad de que el mundo del Derecho se adapte al "tsunami" de las nuevas tecnologías
Conferencia del presidente de la Sala II del Supremo Manuel Marchena en el colegio de abogados de Sevilla
This browser does not support the video element.
Los drones como criminales de guerra, jueces robot, la prescindibilidad de fiscales y magistrados, el derecho a no ser etiquetado por un algoritmo, el derecho a la integridad neuronal, el derecho al entorno virtual, Youtube como la escena del crimen... Podría parecer que hilar estos conceptos y unirlos en una sola pieza no encontraría más encaje que el de la ciencia ficción, pero no. De todas esas ideas habló este miércoles el magistrado Manuel Marchena, presidente de la Sala Segunda del Tribunal Supremo, en el Colegio de Abogados de Sevilla (ICAS), en el marco del II Foro de Abogados Penalistas de España, donde pronunció una conferencia sobre 'El impacto de las nuevas tecnologías en la interpretación de los nuevos tipos penales: Youtube y el principio de legalidad penal'.
Marchena lamentó que "el patrimonio cultural cabalga a 140 o 280 caracteres", en referencia a la red antes llamada Twitter, y aseguró que el impacto de las nuevas tecnologías "está provocando una mutación en los conceptos que tradicionalmente han dado seguridad jurídica". "No quiero transmitir una imagen catastrófica del futuro inmediato, pero Richard Susskind dice que en las dos próximas décadas el ejercicio de la Abogacía va a cambiar mucho más de lo que ha cambiado en los dos últimos siglos", advirtió. Para justificar la velocidad del cambio, el magistrado puso el ejemplo del ajedrecista Gary Kasparov, que perdió contra el superordenador Deep Blue en 1997 después de que en 1987 él mismo hubiese ganado una simultánea a 34 máquinas.
Como consecuencia de esa "mutación", Marchena sugirió dudas sobre coyunturas que ya existen. "Hay publicaciones que se plantean si un dron puede ser considerado un criminal de guerra, cuando las decisiones las toma el algoritmo que lleva incorporado el dron y no su programador. ¿Puede ser criminal de guerra un dron? La UE ya está apostando por implantar el concepto de personalidad robótica", indicó.
"El plazo para que lleguemos a ese futuro es más corto de lo que pensamos", insistió el presidente de la Sala Segunda, quien expuso que ya se están generando "nuevos derechos", como la "desconexión digital" o la "indemnidad neuronal". "La Constitución chilena ya incorporaba el derecho a preservar nuestra integridad neuronal frente a la injerencia del Estado para que nuestros pensamientos no puedan ser condicionados. Hoy se habla del derecho al entorno virtual: ¿los grupos de Telegram son círculos abiertos o no? ¿Puede intervenir el Estado en esos grupos de más de 100.000 personas? Se trata de fijar una barrera frente a la intención de los poderes públicos de inmiscuirse en nuestro rastro telemático", profundizó.
En esa transformación del mundo "se mezcla el derecho a la intimidad, el derecho a la protección de datos, a la inviolabilidad de las publicaciones...". "Eso no puede explicarse a través de las categorías históricas, todo es distinto. Textos de la UE ya hablan del derecho a la identidad algorítmica, a no ser etiquetado por un algoritmo que nos convierte en un moroso, un maltratador, un peligroso o un insolvente para toda nuestra vida. La verdad del algoritmo es una verdad estadística. Yo quiero reivindicar mi dignidad frente a lo que predica el algoritmo", defendió.
También proclamó el derecho "a no ser engañado" por las redes sociales, y recordó que ya hay un reglamento de la Unión Europea que "plantea la necesidad de crear una orden para eliminar los contenidos inveraces de Internet". "El problema es que las redes sociales nos están llevando a una situación de homofilia: sólo queremos oír a los que piensan como nosotros, leer los mismos periódicos, sólo nos asomamos a Twitter para poner "cállate, fascisto" o "cállate, rojete". Estamos alterando todo el patrimonio cultural de la humanidad", lamentó.
Para apuntalar la influencia y el condicionamiento de las nuevas tecnologías en la Justicia del futuro, o del presente, Marchena citó el ejemplo de la Fiscalia de Shanghai, que ha diseñado un algoritmo que "en el 97,7% de los casos formula un escrito de acusación que tiene correspondencia con la sentencia, que es condenatoria". "Ya quisieran los fiscales confundirse sólo en el porcentaje que se equivoca el algoritmo. Y formula acusaciones respecto a ocho delitos distintos", concretó. "Mi hija es fiscal y me dice que eso está muy cerca, que se lo compre cuando esté en Amazon", bromeó. O quizás no.
"Nos lo podemos tomar a broma, con una reflexión serena, pero tiene un problema: ¿para qué queremos entonces fiscales? Alguno dirá 'no caerá esa breva'. Pero la siguiente pregunta es ¿para qué queremos juicio oral? ¿Y para qué queremos juicios? Con los jueces robóticos no sabemos de qué asociación es. Es un juez que dicta sentencia dándole al Enter", dijo.
El derecho a la defensa, obviamente, también se vería condicionado en esa tesitura tan tecnológica. "¿Cómo nos defendemos ante una acusación que acierta al 97,7%? ¿O cómo viviremos el derecho a la doble instancia [es decir, recurrir una sentencia] cuando sea el robot el que diga que tu cliente es culpable?", se preguntó. "El robot tiene a su favor la verdad estadística, no puedes impugnar la decisión, entre otras cosas porque no vas a tener tiempo. ¿Lo impugnamos ante tres robots mejor programados, con más antigüedad y más años en el ejercicio cibernético?", cuestionó antes de seguir: "¿Cómo explicamos el derecho a la tutela judicial efectiva? El robot da respuesta pero no sabe por qué, es el genio del corta-pega".
¿Youtube puede ser "el lugar del delito"?
Marchena fue más allá de hipótesis y teorías y citó un par de ejemplos prácticos de casos que hace unos años serían impensables. Uno es el del youtuber que aceptó el "desafío" de conseguir que alguien comiera pasta de dientes, en concreto un vagabundo al que vio en un cajero y al que ofreció unas galletas a las que le metió dentífrico. "El atentado a su dignidad fue inequívoco", expuso el magistrado. El juzgado de lo Penal de turno lo condenó a "no volver al lugar del delito, es decir, Youtube, durante cinco años". La Audiencia Provincial anuló esa prohibición y el Supremo tuvo que establecer "si Youtube era o no el lugar del delito". "La sentencia dice que ese delito no se ha cometido en el cajero, sino cuando se difunde. Cuando se comete en el cajero, eso podría ser una broma de mal gusto. El atentado a la dignidad se produce cuando se difunde. La Sala dice que el delito se ha ideado y ejecutado en Internet", contó.
Otro caso le valió para hablar de las dificultades para regular el grooming, esto es, "contactar con un menor de edad para proponerle la realización de algún acto que va a afectar a su indemnidad sexual siempre que haya existido un acto material de acercamiento". "Hasta hace poco lo entendíamos todos, quedo con el menor en la puerta del colegio o del Corte Inglés. ¿Pero qué pasa cuando es un acercamiento telemático? El Supremo ha dicho que ese acto material también alcanza materialidad cuando se produce de manera virtual", explicó.
Marchena se mostró distendido, habló durante una hora sin siquiera necesitar la ayuda de algún apunte y respondió a varias preguntas de los asistentes. Antes, sin embargo, no quiso contestar a la prensa sobre otros asuntos de actualidad, véase la negociación para amnistiar a los líderes del 'procés' catalán a los que su Sala condenó a penas de cárcel. "Lo que digo se hace viral, imagínese si hablo con seriedad", alegó. "Seguir juicios a través de la prensa es una insensatez, por lo menos en mi caso", llegó a decir después durante su ponencia.
"La enfermedad del futuro será la ansiedad porque cada cinco años se pulverizará nuestra rutina. El modo de hacer la demanda será distinto. O me adapto o qué hago. Y no sólo en el mundo del Derecho. O nos adaptamos cada cinco años o sufriremos de ansiedad laboral", anticipó. "Todo está cambiando, viene el tsunami y no vale ponerse debajo de la ola, hay que coger la tabla y surfear la ola", concluyó.
2 Comentarios