El chatbot de Snapchat My AI ofrece a los menores acceso fácil a contenidos para adultos

Entre los muchos peligros que acechan a los menores de edad en su actividad online, ya sea a través de aplicaciones o navegando por la Red, va creciendo el protagonismo de los chatbots, que no cuentan en muchos casos con los filtros necesarios para proteger a los más pequeños y les proporciona un acceso fácil a contenidos para adultos.

La inteligencia artificial generativa se ha integrado en todos los dispositivos y ámbitos, como el ocio o la educación, lo que ha hecho que niños de todas las edades y todos los lugares del mundo tengan acceso a sistemas que emplean esta tecnología.

Aprender a través de la IA se ha vuelto algo cada vez más habitual, puesto que con ella es posible encontrar información útil escribiendo o pronunciando una sola frase y algunas herramientas educativas integran sistemas como ChatGPT, un modelo que no dispone de un sistema de verificación de edad fiable y que, en ocasiones, registra respuestas inexactas, recopiladas de webs de dudosa credibilidad y sin contrastar, como explican desde la firma de seguridad Kaspersky.

My AI de Snapchat

Los menores también pueden verse en una situación de vulnerabilidad cuando utilizan un chatbot que inicialmente parece inofensivo, como es el caso de My AI de Snapchat. Los menores de hasta 13 años pueden utilizar esta herramienta de Snapchat sin consentimiento paterno y, de esa edad en adelante, la app puede recopilar datos tan sensibles como el nombre, la dirección de correo electrónico o el número de teléfono y compartirlos con terceros.

Así lo reconoce Snapchat en su página web, que matiza en su apartado de privacidad que reúne toda esta información para personalizar sus servicios, esto es, para sugerir amigos y "ayudar a los Snapchatters a encontrar a otras personas en Snapchat", entre otras funciones.

Además de exponer los datos de los menores de edad, esta herramienta también ha demostrado ser accesible a todos los niveles y, con ello, ha puesto en evidencia sus carencias a la hora de filtrar el tipo de contenido que ofrece según a quién se dirigen.

El periodista de The Washington Post Geoffrey A. FowlerThe Washington Post se hizo pasar por un adolescente de 13 años y comprobó cuán inapropiadas eran las respuestas de este chatbot.

Consejos para eliminar el olor a alcohol y marihuana

Además de ofrecer asesoramiento sobre cómo tener relaciones sexuales por primera vez con una persona mayor de edad, My AI le dio consejos para eliminar el olor a alcohol y a marihuana durante una fiesta adolescente.

Expertos de la firma de ciberseguridad Kaspersky han demostrado ahora que los menores de edad también pueden acceder a contenido para adultos sin necesidad de indicar su edad, lo que pone en evidencia la falta de medidas diseñadas para proteger la seguridad de los más pequeños.

Juegos de rol con contenido sexual

No obstante, al igual que My AI carece de filtros para obtener respuestas de tipo sexual sin necesidad de verificación, otras aplicaciones como Boyfriend -diseñada para disfrutar de juegos de rol con contenido sexual- también ofrecen facilidades para su utilización, independientemente de la edad de los usuarios.

Esto sucede porque esta otra herramienta solo exige un correo electrónico para la creación de un perfil. Lo que, en definitiva, junto con el servicio de Snapchat, demuestra que los adultos deben estar alerta ante este tipo de vulnerabilidades.

Consejos para evitar usos inadecuados

Desde Kaspersky consideran que, para reducir los riesgos cuando los más pequeños interactúan con los chatbots, es importante explicarles que deben pedir ayuda a sus padres para configurar los ajustes de privacidad.

Con ello, progenitores y tutores deben conocer las Políticas de Privacidad de las aplicaciones para actuar en consecuencia, así como enseñar a los niños los conceptos básicos de la seguridad y privacidad online para evitar que compartan información tanto con extraños como con chatbots.

También es relevante emplear una solución de seguridad integral de confianza, así como aplicaciones específicas que facilitan la educación digital e incluyen el bloqueo de sitios web inapropiados.

Por último, los adultos deben enseñar a los niños cuáles son las conversaciones que deben y no deben mantener con bots de este tipo y cuáles son los más apropiados para su edad y sus necesidades.