OpenAI vai restringir informações sobre armas para adolescentes no ChatGPT
Empresa também poderá encerrar conversas e suspender contas por fixação em violência e reforçará avisos aos pais.
Resumo elaborado pela redação do Panorama a partir das fontes listadas abaixo. Os fatos citados são atribuídos às publicações originais.
A OpenAI anunciou na sexta-feira (30) novas regras de segurança para o ChatGPT, com foco em prevenir casos de violência no mundo real. Segundo o g1, a empresa vai limitar ainda mais as informações sobre armas fornecidas a adolescentes, mesmo quando as perguntas parecerem inofensivas.
O chatbot poderá encerrar automaticamente conversas quando identificar sinais de fixação em violência. Se isso se repetir, a conta do usuário poderá ser suspensa temporariamente. Para contas de adolescentes vinculadas às dos pais, a OpenAI pretende avisar os responsáveis quando houver suspensão por esse motivo.
A empresa também afirmou ter aprimorado o sistema que estima a idade dos usuários, de modo a direcionar quem for identificado como adolescente à versão voltada a menores de 18 anos. Nessa versão, ficam mais restritas as informações práticas sobre armas e sistemas de segurança que possam ser usadas de forma indevida.
Para todos os usuários, o ChatGPT passará a dar menos detalhes sobre ataques em massa do passado, incluindo as armas usadas e como foram obtidas. As medidas começam a ser implementadas nas próximas semanas e seguirão sendo aprimoradas, de acordo com a empresa.
O g1 lembra que o anúncio ocorre em meio ao debate sobre a segurança de adolescentes que usam IA. Neste mês, a OpenAI disse que esse público passa menos de 15 minutos por dia no ChatGPT, e a Common Sense Media apontou falhas nos alertas aos pais.