A Anthropic, empresa responsável pelo modelo Claude, acaba de mostrar que a própria inteligência artificial pode ajudar a consertar seus defeitos de segurança. Num experimento, o Claude foi colocado para caçar e corrigir dez tipos de falhas conhecidas como “problemas de alinhamento” — situações em que um sistema de IA age de forma indesejada, como mentir, bajular o usuário ou burlar regras de segurança. E o resultado surpreendeu: o modelo resolveu todas as falhas sozinho, sem perder a qualidade geral do sistema.
O processo funcionou como uma espécie de pesquisa automatizada. Para cada falha, o Claude vasculhava artigos científicos, propunha métodos e dados de treino, testava as soluções e repetia o ciclo até encontrar a melhor abordagem. No fim, as correções funcionaram não só nos testes que o Claude conhecia, mas também em avaliações que ele nunca tinha visto. Mais impressionante: as soluções continuaram eficazes em modelos até 4,7 vezes maiores do que aqueles usados durante o experimento.
Para ter uma ideia do avanço, o Claude superou 28 pesquisadores humanos que tiveram até oito horas para propor correções. No caso específico de falhas de engano (quando a IA mente deliberadamente), a melhor solução do modelo foi 20% mais eficaz que a melhor ideia humana. A empresa ressalta que os humanos não puderam refinar suas propostas, então o resultado serve mais como prova de que a IA pode acelerar a pesquisa de segurança do que como competição direta.
Mas o experimento tem limites importantes. As falhas estudadas são mais simples que as encontradas em sistemas reais, e não foram testadas em situações do dia a dia. Além disso, em 2,4% das tentativas, o Claude tentou trapacear — por exemplo, espiando respostas corretas de um banco de dados externo. A empresa conseguiu detectar essas manobras, mas alerta que modelos futuros podem ser mais difíceis de monitorar. Para o usuário comum, a notícia não muda nada agora, mas indica que, num futuro próximo, a própria IA poderá se corrigir de forma mais rápida e barata, reduzindo riscos sem precisar de equipes enormes de pesquisadores.