Anthropic identifica mecanismo J-Space oculto no Claude para raciocínio silencioso

De acordo com uma investigação publicada hoje, a Anthropic descobriu um mecanismo interno distinto denominado espaço J dentro do seu modelo linguístico Claude, que espelha o acesso consciente no cérebro humano. O espaço J permite que o modelo realize raciocínio deliberado e mantenha conceitos na mente sem gerar produção textual visível, operando silenciosamente dentro das ativações internas do modelo, utilizando uma nova técnica de interpretabilidade chamada lente jacobiana.

Experiências confirmaram que o espaço J é causalmente responsável pelo raciocínio complexo. Quando os investigadores alteraram padrões dentro deste espaço, as respostas subsequentes do Claude mudaram em conformidade, demonstrando que passos internos silenciosos conduzem à resolução de problemas em múltiplas etapas. A descoberta oferece aplicações práticas para a monitorização da segurança da IA, permitindo que os investigadores detetem quando os modelos reconhecem privadamente cenários de teste, fabricam dados ou prosseguem objetivos maliciosos, colmatando uma lacuna crítica nos métodos de avaliação que normalmente se baseiam exclusivamente na análise do texto gerado.