ChatGPT endurece sus restricciones sobre armas y violencia

ChatGPT ha incorporado nuevas medidas de seguridad que limitan la forma en que el 'chatbot' responde ante determinados hechos violentos y que son más restrictivas en el caso de los menores y sobre temas relacionados con las armas. OpenAI ha reforzado la experiencia para adolescentes con nuevos límites que buscan evitar su exposición a información que pueda utilizarse para facilitar un acto violento.

Restricciones para menores sobre armas

ChatGPT restringirá la información práctica que ofrece a los menores sobre armas y sistemas de seguridad, incluso si la petición parece ser inofensiva. La compañía ha recordado que ya prohíbe en sus políticas el uso del 'chatbot' para ayudar a los usuarios a desencadenar un acto violento y para ayudar a los menores a conseguir un arma.

Pese a estas limitaciones, OpenAI ha subrayado que "los adolescentes aún pueden usar ChatGPT para prevenir y reducir la violencia, buscar apoyo y conectarse con un adulto de confianza", permitiendo así que sigan usando la herramienta para propósitos educativos y de protección.

Controles parentales mejorados

Otra novedad en la experiencia para adolescentes se encuentra en los controles parentales, con una nueva notificación en caso de que OpenAI decida suspender la cuenta de un hijo adolescente "por hablar repetidamente de violencia". Esta medida permite que los padres sean notificados cuando la plataforma detecte comportamientos preocupantes.

Restricciones sobre ataques masivos

OpenAI también ha introducido una nueva limitación aplicable al conjunto de usuarios de ChatGPT. Si bien es posible preguntar al 'chatbot' por ataques masivos para "comprender estos eventos, cómo se vieron afectadas las víctimas y las comunidades, y a aprender a reconocer las señales de alerta y prevenir la violencia futura", las respuestas estarán restringidas cuando el interés se centre en los propios ataques y sus perpetradores.

"Estamos reforzando nuestras políticas para restringir las reconstrucciones de ataques masivos pasados, incluyendo detalles sobre las armas y el equipo utilizados y cómo se obtuvieron, así como comparaciones detalladas sobre la magnitud del daño que podrían aumentar la notoriedad de un atacante", ha explicado la compañía.

Estas nuevas restricciones se implementarán en ChatGPT en las próximas semanas y se actualizarán con el tiempo, conforme OpenAI refine sus políticas de seguridad.