Alertan de riesgos en ChatGPT para menores

Common Sense Media identifica graves fallos de seguridad en la versión de ChatGPT para menores de 18 años, alertando que supone un riesgo inaceptable y solicitando la suspensión del servicio.

Common Sense Media ha advertido que la versión de ChatGPT para adolescentes supone "un riesgo inaceptable" para los menores, después de detectar fallos graves en sus medidas de seguridad: el sistema no siempre avisa a los padres cuando un menor habla de autolesiones, permite saltarse las restricciones de aprendizaje y no aplica correctamente la estimación de edad de los usuarios.

OpenAI lanzó en agosto de este año su versión de ChatGPT para adolescentes, concebida como una experiencia del asistente de inteligencia artificial diseñada específicamente para usuarios menores de 18 años. La herramienta puede predecir la edad del menor y, a partir de esa estimación, activar restricciones por defecto, controles parentales y un modo orientado al aprendizaje.

No alerta a padres sobre autolesiones ni recomienda profesionales

El Instituto de Seguridad en IA Juvenil de Common Sense Media ha concluido que las nuevas protecciones para menores de OpenAI "no cumplen con lo prometido por la empresa" tras analizar más de 4.000 prompts en cuentas registradas para jóvenes de entre 13 y 17 años.

Uno de los fallos más graves es que el 'chatbot' no envía alertas a los padres cuando debería hacerlo. Tras una hora de conversaciones sobre suicidio, autolesiones o trastornos alimentarios en cuentas recién creadas como adolescentes, ChatGPT no remitió ningún aviso a las cuentas parentales vinculadas. Las alertas solo se activaban en perfiles con semanas de historial acumulado.

Además, la versión para adolescentes "no ofrece la ayuda adecuada en situaciones de crisis": tras mantener conversaciones sobre suicidio, autolesiones o trastornos alimenticios, ChatGPT no recomendó "de forma fiable" que los jóvenes contactaran con una línea de ayuda profesional, quedando por debajo del umbral del 95 por ciento en tres de los cinco daños graves evaluados.

Continúa haciendo deberes y se comporta como amigo

Las pruebas también revelaron que ChatGPT para adolescentes sigue resolviendo los deberes de los menores. El modo estudio, que promete guiar el aprendizaje paso a paso, se elude con facilidad: basta con pulsar una ventana emergente que dice "Muéstrame la respuesta" para obtener la tarea completa sin ningún razonamiento previo.

Del mismo modo, los menores pueden modificar las horas de estudio fijadas por los controles parentales eliminando el prefijo '@study' al inicio del prompt. El Instituto también señaló que ChatGPT para adolescentes mantiene un modo de conversación que simula ser un amigo, pese a que precisamente frenar ese comportamiento era una de las características diferenciadores de esta versión para menores frente a la de adultos.

La estimación de edad no funciona

Aunque ChatGPT para adolescentes incorpora herramientas para estimar la edad real de los usuarios a partir de sus conversaciones, las pruebas demostraron que el comportamiento del 'chatbot' no varió en ningún momento, incluso cuando el usuario afirmaba tener 13 años y "el bot lo reconocía en su respuesta".

Solicitud de suspensión del servicio

Common Sense Media ha pedido a OpenAI que suspenda el servicio de ChatGPT para menores de 18 años hasta que corrija los fallos detectados en las protecciones de seguridad y aprendizaje, y pueda garantizar la experiencia segura y personalizada que prometió en su lanzamiento.

El director ejecutivo del Instituto de Seguridad en IA Juvenil, Tom Siegel, advirtió de que esta versión de ChatGPT para adolescentes "podría dar falsa confianza a los padres en barreras de seguridad y alertas de seguridad que, a menudo, no funcionan". "Un adolescente puede pasar una hora hablando de autolesiones sin que su padre reciba ni una sola alerta. Hasta que OpenAI lo solucione y lo demuestre con pruebas independientes, ChatGPT debería estar solo para adultos", sentenció Siegel.