Anthropic cria fundo de US$ 5 milhões para estudar como a IA afeta

A Anthropic, criadora do assistente de IA Claude, anunciou um programa de US$ 5 milhões (cerca de R$ 28 milhões) para bancar pesquisas independentes sobre como seus modelos de inteligência artificial afetam o bem-estar de quem os usa. O dinheiro será destinado a grupos de fora da empresa, que terão acesso aos modelos da Anthropic e suporte técnico para criar testes abertos que a indústria inteira poderá usar para medir esses impactos.

A ideia é que os pesquisadores publiquem seus resultados como projetos de código aberto — ou seja, qualquer empresa ou desenvolvedor pode baixar e aplicar os testes. O foco está em situações delicadas: quando um usuário busca companhia no chatbot, ou recorre à IA em uma crise de saúde mental. Avaliar bem-estar é mais complexo do que checar se uma resposta é factualmente correta, porque depende do contexto. Por exemplo, dar dicas de dieta a alguém que já teve transtorno alimentar pode ser prejudicial, mesmo que a recomendação isolada seja sensata.

O programa reconhece que a indústria ainda não tem padrões claros para lidar com conversas emocionalmente carregadas. A própria Anthropic já desenvolve salvaguardas e publica estudos sobre os tipos de diálogo que usuários têm com o Claude, mas quer trazer especialistas externos — psicólogos, clínicos, metodologistas — para ajudar a criar critérios mais rigorosos. As inscrições vão até 21 de setembro, e os selecionados para propostas completas serão avisados em 5 de outubro.

Para o usuário comum, a notícia tem impacto indireto: se os testes forem bem-feitos, os chatbots do futuro poderão ser mais cuidadosos em conversas sobre vulnerabilidade emocional, evitando respostas que parecem úteis mas podem piorar a situação. No curto prazo, porém, nada muda no dia a dia de quem já usa o Claude ou outros assistentes — o resultado dos estudos deve levar meses para aparecer em produtos reais.