OpenAI vai restringir informações sobre armas para adolescentes no ChatGPT
A OpenAI anunciou novas medidas de segurança para adolescentes, incluindo limites a informações práticas sobre armas e possível suspensão temporária de contas após conversas recorrentes sobre violência.
A OpenAI anunciou na sexta-feira (30) novas medidas de segurança para adolescentes que usam o ChatGPT. A empresa vai limitar informações práticas sobre armas e sistemas de segurança que possam ser usadas de forma indevida, mesmo quando a pergunta parecer inofensiva e não houver sinais de intenção violenta.
O ChatGPT também poderá encerrar automaticamente conversas quando identificar sinais de fixação em violência. Se isso ocorrer repetidas vezes, a OpenAI poderá suspender temporariamente a conta. Pais com contas vinculadas às dos filhos serão notificados caso a conta do adolescente seja suspensa por conversas recorrentes sobre violência.
A empresa afirmou que aprimorou a tecnologia usada para estimar a idade dos usuários e direcionar à versão voltada a menores de 18 anos quem for identificado como adolescente. Para todos os usuários, a OpenAI também vai reduzir detalhes sobre ataques em massa ocorridos no passado, incluindo informações sobre armas usadas e como foram obtidas.
As medidas começarão a ser implementadas nas próximas semanas e continuarão sendo aprimoradas, segundo a empresa.
O que muda para você
As mudanças se destinam a adolescentes que usam o ChatGPT e aos pais com contas vinculadas às deles. O sistema poderá limitar certas respostas, encerrar conversas e, após ocorrências repetidas, levar à suspensão temporária da conta. A implementação ainda vai começar nas próximas semanas; a fonte não detalha como os usuários poderão contestar a identificação de idade ou uma suspensão.
Minha leitura
A eficácia dessas medidas vai depender de como o ChatGPT identifica adolescentes e interpreta conversas recorrentes. A OpenAI diz que aprimorou a estimativa de idade, mas não detalha sua precisão. O aviso aos pais também depende de as contas estarem vinculadas. Por enquanto, há regras anunciadas e uma implementação prevista para as próximas semanas; ainda falta saber como elas funcionarão na prática.
Thiago FelizolaConsultor de IA, curador do Diário da IA
