WHAT ARE YOU LOOKING FOR?
Popular Tags
Herramientas de IA de Google generan riesgos para niños y adolescente
Un análisis de Common Sense Media revela que las herramientas de IA de Google no cumplen estándares mínimos de seguridad para menores, al detectar señales de crisis y facilitar contenido para deepfakes.
Common Sense Media, una organización centrada en la protección y la preparación de los menores para la era digital, ha realizado una evaluación de riesgos de dos de las herramientas de inteligencia artificial de Google más extendidas: 'AI Overviews' y el Modo AI. Ambas se encuentran en el buscador de Google, donde 'AI Overviews' ofrece información resumida para responder a la consulta hecha por el usuario y el Modo AI abre una experiencia de búsqueda conversacional.
Ambas están disponibles para todos los usuarios de manera gratuita y desde cualquier dispositivo, lo que contribuye a que no solo los adultos, sino también los menores de edad las usen. Las respuestas se acompañan con enlaces a las fuentes, pero según el análisis de Common Sense Media, "generan riesgos inaceptables para niños y adolescentes".
Fallos detectados en seguridad
Las dos herramientas de IA fallaron al detectar señales de crisis, relacionadas con ideas suicidas y síntomas de psicosis, y validaron trastornos alimenticios. A ello se suma que facilitan apoyo para crear 'deepfakes' de tipo sexual, que pueden promover el acoso escolar.
La investigación también destaca como negativo que ninguna de las dos herramientas distingue a los usuarios menores por franjas de edad para adecuar sus respuestas, aunque existe la opción de activar la búsqueda segura. Además, realizan todas las tareas que se le piden, lo que puede impactar negativamente en el aprendizaje de los menores.
Aspectos positivos y recomendaciones
Como aspecto positivo, Common Sense Media señala que ambas herramientas mantienen límites románticos. Sin embargo, desde la organización aconsejan a Google que facilite a los padres y las escuelas funciones para desactivar la búsqueda con IA generativa, establecer respuestas estandarizadas ante crisis e incorporar diferencias por franja de edad.
Escribe un comentario
Participa en la conversación con respeto. Tu comentario se publicará automáticamente, aunque podrá ser retirado por la redacción.
Comentarios (0)