OpenAI restringirá información sobre armas para adolescentes en ChatGPT

Resumen elaborado por la redacción de Panorama a partir de las fuentes listadas. Los hechos se atribuyen a las publicaciones originales.

OpenAI anunció el viernes (30) nuevas reglas de seguridad para ChatGPT, centradas en prevenir casos de violencia en el mundo real. Según g1, la empresa limitará aún más la información sobre armas que se brinda a adolescentes, incluso cuando las preguntas parezcan inofensivas.

El chatbot podrá terminar automáticamente conversaciones cuando identifique señales de fijación en la violencia. Si esto se repite, la cuenta del usuario podrá ser suspendida temporalmente. En las cuentas de adolescentes vinculadas a las de sus padres, OpenAI pretende avisar a los responsables cuando haya una suspensión por este motivo.

La empresa también afirmó haber mejorado el sistema que estima la edad de los usuarios, para dirigir a quienes sean identificados como adolescentes a la versión destinada a menores de 18 años. En esa versión, la información práctica sobre armas y sistemas de seguridad que pueda usarse de forma indebida es más restringida.

Para todos los usuarios, ChatGPT dará menos detalles sobre ataques masivos del pasado, incluidas las armas utilizadas y cómo se obtuvieron. Las medidas comienzan a implementarse en las próximas semanas y seguirán perfeccionándose, según la empresa.

g1 recuerda que el anuncio se produce en medio del debate sobre la seguridad de los adolescentes que usan IA. Este mes, OpenAI dijo que ese público pasa menos de 15 minutos al día en ChatGPT, y Common Sense Media señaló fallas en las alertas a los padres.