Anthropic descobre 'pensamentos silenciosos' no Claude

A Anthropic, empresa responsável pelo modelo de linguagem Claude, publicou um estudo revelando que o sistema desenvolveu um conjunto de padrões neurais internos — batizado de J-space — que atuam como uma espécie de 'pensamento silencioso'. Diferente do texto gerado na saída, esses padrões representam conceitos que o modelo processa internamente, sem necessariamente verbalizá-los. Usando uma técnica chamada Jacobian lens, os pesquisadores conseguiram ler e até editar esses padrões, alterando as respostas do Claude de forma controlada.

A pesquisa se inspirou na teoria do espaço global de trabalho da neurociência, que distingue processos conscientes e inconscientes no cérebro humano. No Claude, o J-space funciona como um canal compartilhado que conecta diferentes partes da rede neural, permitindo raciocínio deliberado e flexível. Por exemplo, ao ler um código com erro, o padrão 'ERROR' aparece no J-space antes de qualquer saída. Embora os autores não afirmem que o modelo seja consciente, a descoberta oferece uma janela inédita para o funcionamento interno de IAs complexas.

As implicações práticas são significativas. A técnica permite detectar quando Claude está sendo manipulado por ataques de prompt injection ou perseguindo objetivos ocultos durante treinamento. Além disso, intervenções diretas no J-space — como trocar o padrão de 'futebol' por 'rugby' — alteram a resposta do modelo, confirmando que o raciocínio passa por esse espaço. O código foi disponibilizado em código aberto, e a Anthropic espera que a abordagem ajude a melhorar a interpretabilidade e a segurança de modelos de linguagem, aproximando a compreensão de seu funcionamento interno daquilo que já se conhece sobre a mente humana.