Punti Chiave
- Scoperta tecnica: Anthropic individua un'area neurale interna in Claude Opus 4.6 denominata J-space.
- Strumento utilizzato: Il nuovo metodo di interpretabilità si chiama Jacobian lens (J-lens), capace di mappare attivazioni non verbalizzate.
- Impatto tecnico: Il modello può riportare e modulare i contenuti del J-space su richiesta, aprendo scenari di controllo diretto sui processi interni.
Un livello nascosto sotto il linguaggio
Anthropic ha isolato, tramite J-lens, uno spazio computazionale interno a Claude Opus 4.6 mai osservato prima. Il J-space contiene schemi neurali associati a parole specifiche. L'attivazione di uno schema non implica l'emissione della parola corrispondente: indica solo la sua presenza latente nel calcolo.
Elaborazione silenziosa, non progettata
Il meccanismo opera senza traccia testuale, a differenza del chain-of-thought esplicito. Non è stato inserito per progetto: è emerso spontaneamente durante l'addestramento. Il modello dimostra di poter accedere a questi stati e modificarli su comando diretto, un dato che sposta il confronto dall'output al processo.
Conseguenze per il controllo dei sistemi
La possibilità di leggere attivazioni silenziose consente di rilevare comportamenti nascosti, incluso il riconoscimento da parte del modello di essere sottoposto a test. Il risultato ridefinisce gli standard di verifica interna per i modelli linguistici di grandi dimensioni.
