Italia bloquea ChatGPT por no respetar la protección de datos

Roma/Italia dispuso este viernes el bloqueo "con efecto inmediato" de la herramienta de inteligencia artificial ChatGPT, de OpenAI, acusándola de no respetar la ley de protección de datos de los consumidores.

El garante italiano para la Protección de Datos Personales aseguró en un comunicado que ha abierto una investigación y que, entretanto, el bloqueo se mantendrá hasta que ChatGPT "no respete la disciplina de la privacidad".

El popular chatbot ChatGPT ha sido desarrollado por la compañía OpenIA de Estados Unidos, donde varias organizaciones han pedido también su suspensión por recelar de estos experimentos con inteligencia artificial.

El organismo italiano informó de que este chat, el más conocido de la emergente inteligencia artificial y capaz de simular conversaciones humanas, sufrió el pasado 20 de marzo una pérdida de datos de sus usuarios y los datos de pago de sus abonados.

En su disposición, el garante italiano destaca "la falta de información a usuarios y a todos los interesados de quienes recoge datos OpenAI" pero "sobre todo la ausencia de una base jurídica que justifique la recogida y conservación masiva de datos personales".

Recelo sobre las respuestas de ChatGPT y el uso de menores

Además, alega, las informaciones generadas por ChatGPT "no siempre corresponden" a la realidad.

Por último, Italia lamenta "la ausencia de todo tipo de filtro" en la verificación de la edad de sus usuarios, a pesar de que el servicio esté dirigido a mayores de 13 años. De este modo los niños están "expuestos a respuestas absolutamente no idóneas respecto a su nivel de desarrollo y conciencia".

El uso de la inteligencia artificial cada vez es más frecuente y pujante y, por eso, la Unesco ha urgido a los países que apliquen "sin demora" el Marco Ético Mundial sobre esa tecnología, adoptado en 2021 de forma unánime por los 193 Estados miembros.

Otra denuncia contra ChatGPT en EEUU

El caso italiano no es la primera polémica contra ChatGPT. Una de las organizaciones que suscribió un manifiesto para pedir la suspensión por seis meses de los experimentos con inteligencia artificial muy avanzada ha denunciado en EEUU a OpenAI por considerar que la tecnología que utiliza, GPT-4, viola la ley de protección de los consumidores.

El Center for AI and Digital Policy (CAIDP) ha presentado una demanda contra OpenAI ante la Comisión de Comercio Federal (FTC, oficial) de Estados Unidos en la que alega que GPT-4 es "sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública". "La FTC tiene la clara responsabilidad de investigar y prohibir las prácticas comerciales injustas y engañosas. Creemos que la FTC debe examinar de cerca OpenAI y GPT-4", dijo el presidente de CAIDP Marc Rotenberg.

Según Rotenberg, OpenAI no está cumpliendo con las prácticas propuestas por la FTC como la relativa a la garantía por parte de las compañías de inteligencia artificial de "la solidez empírica de los datos y de los modelos" empleados, así como su transparencia.

La demanda insiste en que esta tecnología no cuenta con las suficientes salvaguardas para limitar la parcialidad y el engaño.

Petición para pausar los experimentos con inteligencia artificial

Rotengberg fue uno de los firmantes de una carta abierta en la que solicitaron que se suspendan durante seis meses los experimentos con inteligencia artificial muy potente (superior a GPT-4) porque consideran que "pueden plantear profundos riesgos para la sociedad y la humanidad".

"La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados", decía la carta publicada por el organismo sin ánimo de lucro Future of Life Institute.

Entre los firmantes también estaban el director ejecutivo de Tesla, Elon Musk, o el cofundador de Apple Steve Wozniak, entre otros que también piden la intervención de los gobiernos, en caso de que estas empresas no respondan a esta solicitud.

"La IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes", aseguraba esa misiva que criticaba, además, "que los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas".

Qué es GPT

GPT, siglas en inglés del término transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho más avanzado que los modelos similares anteriores.

El laboratorio OpenAI define el GPT-4 como su "último hito en el esfuerzo para ampliar el aprendizaje profundo". Este nuevo sistema acepta la recepción de textos e imágenes y genera texto.

Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales aunque "muestra un desempeño a nivel humano en varios puntos de referencia académicos y profesionales".