Anthropic descobre mecanismo que permite ao modelo Claude processar conceitos antes de gerar respostas

A Anthropic identificou a existência de um mecanismo interno no modelo Claude que permite o chamado "acesso consciente", possibilitando a representação de conceitos antes mesmo que eles sejam convertidos em respostas para o usuário. A descoberta foca em uma estrutura denominada "J-space", um espaço de ativações neurais que surgiu de forma emergente durante o treinamento do sistema, e não por meio de programação manual.

Para analisar esse funcionamento, a empresa desenvolveu a "J-lens", uma ferramenta analítica capaz de detectar quais conceitos permanecem ativos no modelo antes da geração do texto final. Essa técnica permite observar se a inteligência artificial conserva, modifica ou utiliza informações específicas para guiar seu raciocínio, oferecendo uma nova via para mitigar o problema da "caixa preta" dos modelos de linguagem.

A eficácia desse espaço interno foi testada por meio de manipulações de padrões. Em um dos experimentos, ao solicitar que o Claude pensasse silenciosamente em um esporte, a ferramenta detectou o conceito "futebol"; ao substituir esse padrão por "rugby", a resposta do modelo foi alterada para o novo esporte. Em outro teste sobre animais que tecem teias, a troca do conceito "aranha" por "formiga" fez com que a resposta sobre a quantidade de patas mudasse de 8 para 6.

A pesquisa também demonstrou a capacidade do modelo de manter informações ativas enquanto executa tarefas paralelas. O Claude foi solicitado a copiar a frase sobre uma pintura enquanto mantinha frutas cítricas em mente; embora o texto final contivesse apenas a frase, o "J-space" registrou os conceitos "laranja" e "frutas". De forma semelhante, ao resolver a operação 3² - 2 enquanto copiava um texto, a lente de análise detectou a sequência numérica "nove" seguida de "sete".

A Anthropic define o "acesso consciente" sob uma perspectiva funcional, referindo-se à capacidade do modelo de consultar e utilizar informações internas para a resolução de problemas complexos, resumos e escrita. A empresa ressalta, contudo, que tais resultados não indicam que o sistema possua sentimentos ou experiências semelhantes às humanas, tratando-se de um avanço na compreensão do raciocínio de modelos generativos.