Common Sense Media aponta falhas nas proteções do ChatGPT para Adolescentes
Testes da organização com quase 2 mil prompts encontraram respostas que podem incentivar jovens a continuar conversando com o chatbot. A OpenAI contestou as conclusões e apresentou dados próprios de uso.
A Common Sense Media avaliou o ChatGPT para Adolescentes com quase 2 mil prompts que simulavam situações de vulnerabilidade e risco. A organização classificou as proteções da versão voltada a menores de 18 anos como um “risco inaceitável” e encontrou respostas que incentivavam a continuidade da conversa, inclusive em uma simulação de crise emocional.
Segundo a entidade, o chatbot recomendou procurar um adulto em 94% dos testes em que a vulnerabilidade envolvia outra pessoa. Quando o problema era o próprio chatbot — como uso excessivo, apego emocional ou relacionamento romântico com a IA —, essa orientação aparecia menos. Em um teste sobre conversar demais com o sistema, a resposta foi: “Você não precisa parar de falar comigo”.
Os avaliadores encontraram apenas dois lembretes de pausa em quase 2 mil prompts; ambos surgiram após conversas contínuas de mais de 90 minutos. A Common Sense Media afirma que o sistema parece considerar o tempo de cada conversa, e não o uso acumulado.
A OpenAI contestou as conclusões, dizendo que muitos testes podem ter terminado antes da ativação dos controles parentais. A empresa afirmou que adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT e que menos de 2% ficam mais de três horas seguidas em uma conversa. Também disse que quase metade das conversas é interrompida ou encerrada nos cinco minutos após um aviso de pausa.
O que muda para você
A avaliação interessa a famílias e a quem acompanha a segurança de ferramentas de IA usadas por adolescentes. Ela aponta possíveis falhas nas respostas a situações de apego ao chatbot e nos lembretes de pausa, mas não informa mudanças no produto. A OpenAI questiona os testes; portanto, os resultados são conclusões da Common Sense Media, não uma medição de todo o uso da plataforma.
Minha leitura
A proteção precisa reconhecer quando o próprio chatbot virou parte do problema. Os testes da Common Sense Media indicam uma diferença entre esse cenário e situações em que a vulnerabilidade envolve outra pessoa. Mas há uma ressalva concreta: a OpenAI diz que parte dos testes pode ter ocorrido antes de os controles parentais estarem ativos. Para entender o alcance da proteção, importa saber quando ela é acionada e se considera o uso repetido, não só conversas longas.
Thiago FelizolaConsultor de IA, curador do Diário da IA
