Meta enviará avisos a los padres si sus hijos hablan de suicidio

Meta incorpora notificaciones proactivas para padres cuando el chatbot detecta que adolescentes discuten temas sensibles como suicidio o autolesiones.

Meta ha incorporado avisos proactivos que el asistente Meta AI enviará a los padres cuando sus hijos adolescentes traten temas sensibles en una conversación, como el suicidio o las autolesiones, a ejemplo de lo que ya hace Instagram y para reforzar los recursos de apoyo que ya ofrece.

Actualmente, cuando los adolescentes expresan en una conversación que podrían estar pensando en el suicidio o autolesionarse, Meta AI les muestra recursos para que contacten con líneas de ayuda o les anima a hablar con un adulto de confianza. A esta función se le une ahora el envío de notificaciones proactivas a los padres, como las que ya envía Instagram si identifica que sus hijos buscan repetidamente términos relacionados con el suicidio o la autolesión en un periodo corto de tiempo.

Activación de alertas y moderación humana

En el caso del chatbot de IA, esta notificación se activará ante referencias claras a esos temas, pero también ante señales más sutiles que sugieran que el adolescente podría estar en riesgo. Las conversaciones marcadas por un tema sensible pasarán también la revisión de un equipo de moderación humano antes de enviar la notificación.

Meta avisa de que «si la intención de un adolescente es ambigua, actuarán con precaución y alertarán a los padres». Estas alertas de Meta AI están disponibles para aquellos padres que ya utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá, y la intención de Meta es extenderlo al resto de padres de todo el mundo antes de que termine el año.

Controles adicionales para menores

Los padres tienen a su disposición la configuración de contenido limitado, que restringe la aparición de contenido +13 en las cuentas de adolescentes, y que ahora también se aplica a las conversaciones que sus hijos mantengan con Meta AI.

Asimismo, Meta está trabajando con expertos en salud mental y adolescentes para mejorar la forma en que Meta AI responde a las consultas de estos relacionadas con suicidio y autolesiones.