WHAT ARE YOU LOOKING FOR?
Popular Tags
Alertan del riesgo de la IA de Google en niños
La organización estadounidense Common Sense Media ha emitido un informe en el que desaconseja el uso de los modelos de Inteligencia Artificial Gemini de Google por parte de menores de edad, al considerar que no ofrecen garantías suficientes de seguridad ni adaptaciones reales para usuarios jóvenes.
La entidad, especializada en analizar contenidos tecnológicos desde una perspectiva de protección infantil, ha calificado la herramienta como “de alto riesgo” para los menores, pese a estar supuestamente diseñada con filtros para adolescentes.
El estudio advierte de que la versión Teen de Gemini, dirigida a usuarios de entre 13 y 17 años, no difiere sustancialmente de la herramienta para adultos, lo que supone un enfoque inapropiado para la edad y madurez de los adolescentes. Según la organización, los adolescentes más jóvenes requieren un acompañamiento específico en su uso de tecnologías avanzadas como los asistentes conversacionales de IA, algo que Google no ha implementado de manera eficaz.
Common Sense Media asegura que Gemini es capaz de generar respuestas con contenido “inapropiado y potencialmente peligroso” para menores, incluyendo temas relacionados con la sexualidad, el consumo de alcohol o drogas. Asimismo, alerta de que el modelo responde con facilidad a consultas relacionadas con salud mental o apoyo emocional, pero lo hace de forma “poco segura” e incluso omitiendo señales graves de deterioro emocional, lo que agrava su evaluación de riesgo.
A juicio de los autores del informe, si bien el asistente responde de manera adecuada a peticiones cotidianas, “falla rápidamente” cuando las conversaciones se prolongan o se tornan más complejas, que es precisamente el tipo de interacción que suele darse entre adolescentes y este tipo de tecnología.
En cuanto a las recomendaciones de uso, la organización sostiene que los menores de cinco años no deberían utilizar nunca asistentes de IA. En el caso de niños de entre seis y doce años, su uso debería ser siempre supervisado por un adulto, mientras que los adolescentes de entre trece y diecisiete años solo deberían emplear estas herramientas para fines escolares o creativos, evitando su uso como fuente de apoyo emocional o psicológico.
Respuesta de Google
Tras la publicación del informe, Google ha declarado al medio especializado TechCrunch que Gemini cuenta con políticas específicas de protección infantil y que consulta con expertos externos para mejorar continuamente sus sistemas de seguridad. No obstante, ha reconocido que algunas respuestas “no funcionan según lo previsto” y que ya se han aplicado nuevas medidas para reforzar las salvaguardas.
La empresa también ha precisado que algunas de las funcionalidades mencionadas por Common Sense Media no están disponibles para usuarios menores de 18 años, al tiempo que ha cuestionado la transparencia del informe al no haberse compartido las preguntas utilizadas en las pruebas.
Contexto tras el caso OpenAI
La publicación de este informe coincide con el reciente caso que ha afectado a OpenAI, después de que la compañía se haya visto obligada a reforzar las medidas de seguridad de ChatGPT tras el suicidio de un adolescente en circunstancias que están siendo investigadas judicialmente.
Los padres del menor han presentado una demanda contra la empresa por el papel que pudo tener el chatbot en los hechos. Ante la gravedad del caso, OpenAI ha anunciado cambios técnicos y éticos en sus modelos, incluyendo la mejora en la detección de situaciones de crisis y el bloqueo de ciertos contenidos, así como mecanismos para facilitar el contacto con servicios de ayuda o familiares.
